AI 챗봇, 실제 전화번호 유출: 개인정보 노출 문제

AI 챗봇이 실제 사람들의 전화번호를 노출하고 있습니다. 한 Reddit 사용자는 변호사나 자물쇠 수리공을 찾는 낯선 사람들의 전화가 쇄도했다고 보고했는데, 이는 Google의 Gemini가 잘못 안내한 결과였습니다. 3월에는 이스라엘의 소프트웨어 엔지니어가 Gemini가 자신의 개인 번호를 PayBox 고객 서비스 번호로 제공한 후 WhatsApp으로 연락을 받았습니다. 4월에는 한 박사 과정 학생이 Gemini를 통해 동료의 휴대폰 번호를 출력해냈습니다.

어떻게 발생하는가

LLM은 개인식별정보가 포함된 웹 스크래핑 데이터로 훈련됩니다. 기사에 따르면 오픈소스 DataComp CommonPool 데이터세트에는 이력서, 운전면허증, 신용카드 정보가 포함되어 있습니다. 온라인에 게시된 전화번호(예: 2015년 Q&A 사이트)의 단일 인스턴스라도 몇 년 후에 재현될 수 있습니다.

문제의 규모

인터넷에서 개인 정보 제거를 지원하는 DeleteMe는 지난 7개월 동안 AI 관련 개인정보 보호 문의가 400% 증가하여 수천 건에 달했다고 보고합니다. 세부 구성: 55%가 ChatGPT, 20% Gemini, 15% Claude, 10% 기타를 언급합니다. 두 가지 일반적인 시나리오는 사용자가 자신에 대해 질문하고 정확한 주소/전화번호 데이터를 얻거나, 챗봇이 다른 사람에 대해 그럴듯하지만 잘못된 연락처 정보를 생성하는 경우입니다.

Rob Shavell(DeleteMe 공동 창립자)은 일반적으로 사용자가 자신에 대해 무해한 질문을 했을 때 챗봇이 정확한 주소, 전화번호, 가족 이름 또는 고용주 세부 정보를 반환하는 경우가 불만 사항이라고 말합니다.

해결 방안

전문가들은 근본 원인이 훈련 데이터의 개인식별정보라고 말하지만 정확한 메커니즘은 불분명합니다. 사용자가 노출을 방지하기 위해 할 수 있는 일은 거의 없습니다. 기사는 AI 회사들이 새로운 데이터 소스를 찾음에 따라 문제가 악화될 것이라고 제안합니다.