AIチャットボットが実在の電話番号を漏洩：個人情報流出問題

AIチャットボットが実際の個人の電話番号を漏洩している。Redditユーザーは、GoogleのGeminiに誤った情報を導かれて、弁護士や鍵屋を探す見知らぬ人からの電話に悩まされたと報告。3月には、イスラエルのソフトウェアエンジニアが、Geminiが彼の個人番号をPayBoxのカスタマーサービスとして提供した後、WhatsAppで連絡を受けた。4月には、博士課程の学生がGeminiを使って同僚の携帯番号を出力させた。

発生の仕組み

LLMは、個人情報を含むWebスクレイピングデータでトレーニングされている。記事によると、オープンソースのDataComp CommonPoolデータセットには履歴書、運転免許証、クレジットカードが含まれている。たとえ2015年にQ&Aサイトに投稿された電話番号の単一のインスタンスでも、何年も後に再現される可能性がある。

問題の規模

インターネットから個人情報を削除するDeleteMeは、過去7ヶ月間でAI関連のプライバシークエリが400%増加し、数千件に達したと報告。内訳：ChatGPTが55%、Geminiが20%、Claudeが15%、その他が10%。よくある2つのシナリオ：ユーザーが自分自身について尋ね、正確な自宅や電話データを取得するか、チャットボットが他の誰かのもっともらしいが間違った連絡先情報を生成する。

Rob Shavell（DeleteMe共同創業者）によると、苦情は典型的には、チャットボットがユーザーについての無害な質問に対して、正確な自宅住所、電話番号、家族名、雇用主の詳細を返す場合を含む。

何ができるか

専門家は、根本原因はトレーニングデータの個人情報にあるが、正確なメカニズムは不明だと述べている。ユーザーが漏洩を防ぐためにできることはほとんどない。記事は、AI企業が新たなデータソースを求めるにつれて問題は悪化するだろうと示唆している。