AI-чатботы утекают реальные номера телефонов: проблема утечки PII

Чат-боты с ИИ раскрывают реальные номера телефонов людей. Один пользователь Reddit сообщил, что его завалили звонками незнакомцы, ищущие адвоката или слесаря — их ввел в заблуждение Google Gemini. В марте с инженером-программистом в Израиле связались через WhatsApp после того, как Gemini выдал его личный номер как контактную службу поддержки PayBox. В апреле аспирант с помощью Gemini получил номер мобильного телефона коллеги.

Как это происходит

LLM обучаются на данных, собранных из Интернета, содержащих PII. В статье отмечается, что открытый набор данных DataComp CommonPool включает резюме, водительские права и кредитные карты. Даже единственный случай публикации номера телефона в сети (например, на сайте вопросов и ответов в 2015 году) может быть воспроизведен спустя годы.

Масштаб проблемы

DeleteMe, помогающая удалять личную информацию из Интернета, сообщает о 400%-ном увеличении запросов на конфиденциальность, связанных с ИИ, за последние семь месяцев — до нескольких тысяч. Разбивка: 55% ссылаются на ChatGPT, 20% на Gemini, 15% на Claude, 10% на других. Два распространенных сценария: пользователь спрашивает о себе и получает точные данные о доме/телефоне, или чат-бот генерирует правдоподобные, но неверные контактные данные для другого человека.

Роб Шейвелл (сооснователь DeleteMe) говорит, что жалобы обычно включают случаи, когда чат-бот возвращает точные домашние адреса, номера телефонов, фамилии или данные о работодателе в ответ на безобидные вопросы о пользователе.

Что можно сделать

Эксперты говорят, что коренная причина — PII в обучающих данных, но точный механизм неясен. Пользователи мало что могут сделать для предотвращения раскрытия. Статья предполагает, что проблема будет усугубляться по мере того, как компании ИИ будут искать новые источники данных.