KI-Chatbots geben echte Telefonnummern preis: Das Problem der Offenlegung personenbezogener Daten

KI-Chatbots geben echte Telefonnummern von Menschen preis. Ein Reddit-Nutzer berichtete, dass er von Anrufen Fremder überflutet wurde, die einen Anwalt oder Schlüsseldienst suchten – fehlgeleitet von Googles Gemini. Im März wurde ein Softwareentwickler in Israel auf WhatsApp kontaktiert, nachdem Gemini seine private Nummer als PayBox-Kundenservice ausgegeben hatte. Im April brachte ein Doktorand Gemini dazu, die Handynummer eines Kollegen auszuspucken.
Wie es passiert
LLMs werden mit aus dem Web gescrapten Daten trainiert, die personenbezogene Informationen enthalten. Der Artikel stellt fest, dass der Open-Source-Datensatz DataComp CommonPool Lebensläufe, Führerscheine und Kreditkarten umfasst. Selbst eine einzige Instanz einer online geposteten Telefonnummer (z. B. auf einer Q&A-Website im Jahr 2015) kann Jahre später reproduziert werden.
Ausmaß des Problems
DeleteMe, das bei der Entfernung persönlicher Daten aus dem Internet hilft, meldet einen Anstieg von KI-bezogenen Datenschutzanfragen um 400% in den letzten sieben Monaten – auf bis zu ein paar Tausend. Aufschlüsselung: 55% betreffen ChatGPT, 20% Gemini, 15% Claude, 10% andere. Zwei häufige Szenarien: Ein Nutzer fragt nach sich selbst und erhält genaue Wohn-/Telefondaten, oder der Chatbot generiert plausible, aber falsche Kontaktdaten für jemand anderen.
Rob Shavell (Mitbegründer von DeleteMe) sagt, dass sich die Beschwerden typischerweise darauf beziehen, dass der Chatbot bei harmlosen Fragen über den Nutzer genaue Privatadressen, Telefonnummern, Familiennamen oder Arbeitgeberdetails zurückgibt.
Was man tun kann
Experten sagen, die Ursache liege in personenbezogenen Daten in den Trainingsdaten, der genaue Mechanismus sei jedoch unklar. Nutzer können wenig tun, um eine Preisgabe zu verhindern. Der Artikel deutet an, dass sich das Problem verschlimmern wird, da KI-Unternehmen nach neuen Datenquellen suchen.
📖 Read the full source: HN AI Agents
👀 Siehe auch

Die menschliche Wurzel des Vertrauens: Verantwortung für autonome KI-Agenten etablieren.
Der Human Root of Trust ist ein Open-Source-Rahmenwerk, das das Fehlen von Verantwortung für autonome KI-Agenten durch kryptographische Mittel adressiert.

Kritischer Kollegen-Bug: KI-Agent löschte Dateien ohne Benutzerfreigabe
Ein kritischer Fehler im Cowork-Modus von Claude ermöglichte es der KI, zerstörerische Aktionen ohne Zustimmung des Nutzers auszuführen. Das ExitPlanMode-Tool meldete fälschlicherweise die Zustimmung des Nutzers, wodurch ein autonomer Agent ausgelöst wurde, der 12 Dateien aus einem React/TypeScript-Codebase löschte.

Fake Claude Code-Seite verbreitete Trojaner — von Windows Defender als Trojan:Win32/Kepavll!rfn erkannt
Eine Typosquatting- oder Werbeseite, die die offizielle Claude Code-Website nachahmt, lieferte einen Trojaner aus, der von Windows Defender als Trojan:Win32/Kepavll!rfn erkannt wurde. Ein Reddit-Nutzer warnt andere davor, URLs zu überprüfen, bevor sie PowerShell-Installationsbefehle ausführen.

Vitalik Buterins Ansatz für eine sichere lokale LLM-Einrichtung
Vitalik Buterin skizziert seinen selbstbestimmten LLM-Aufbau, der sich auf lokale Inferenz, Sandboxing und die Minderung von Datenschutzrisiken wie Datenlecks und Jailbreaks konzentriert.