Chatbots de IA vazam números de telefone reais: o problema de exposição de PII

Chatbots de IA estão expondo números de telefone reais de pessoas. Um usuário do Reddit relatou ter sido inundado por ligações de estranhos procurando por um advogado ou chaveiro—direcionados erroneamente pelo Gemini do Google. Em março, um engenheiro de software em Israel foi contatado no WhatsApp depois que o Gemini forneceu seu número pessoal como sendo o do serviço de atendimento ao cliente da PayBox. Em abril, um candidato a doutorado conseguiu que o Gemini exibisse o número de celular de um colega.

Como Acontece

LLMs são treinados em dados extraídos da web que contêm PII. O artigo observa que o conjunto de dados aberto DataComp CommonPool inclui currículos, carteiras de motorista e cartões de crédito. Mesmo uma única ocorrência de um número de telefone postado online (por exemplo, em um site de perguntas e respostas em 2015) pode ser reproduzida anos depois.

Escala do Problema

A DeleteMe, que ajuda a remover informações pessoais da internet, relata um aumento de 400% nas consultas de privacidade relacionadas a IA nos últimos sete meses—chegando a alguns milhares. Detalhamento: 55% mencionam ChatGPT, 20% Gemini, 15% Claude, 10% outros. Dois cenários comuns: um usuário pergunta sobre si mesmo e obtém dados precisos de casa/telefone, ou o chatbot gera informações de contato plausíveis, mas incorretas, para outra pessoa.

Rob Shavell (cofundador da DeleteMe) diz que as reclamações geralmente envolvem o chatbot retornando endereços residenciais precisos, números de telefone, nomes de familiares ou detalhes do empregador quando perguntas inocentes sobre o usuário são feitas.

O Que Pode Ser Feito

Especialistas dizem que a causa raiz são os PII nos dados de treinamento, mas o mecanismo exato não é claro. Há pouco que os usuários possam fazer para prevenir a exposição. O artigo sugere que o problema vai piorar à medida que as empresas de IA buscam novas fontes de dados.