Chatbots de IA vazam números de telefone reais: o problema de exposição de PII
Chatbots de IA estão expondo números de telefone reais de pessoas. Um usuário do Reddit relatou ter sido inundado por ligações de estranhos procurando por um advogado ou chaveiro—direcionados erroneamente pelo Gemini do Google. Em março, um engenheiro de software em Israel foi contatado no WhatsApp depois que o Gemini forneceu seu número pessoal como sendo o do serviço de atendimento ao cliente da PayBox. Em abril, um candidato a doutorado conseguiu que o Gemini exibisse o número de celular de um colega.
Como Acontece
LLMs são treinados em dados extraídos da web que contêm PII. O artigo observa que o conjunto de dados aberto DataComp CommonPool inclui currículos, carteiras de motorista e cartões de crédito. Mesmo uma única ocorrência de um número de telefone postado online (por exemplo, em um site de perguntas e respostas em 2015) pode ser reproduzida anos depois.
Escala do Problema
A DeleteMe, que ajuda a remover informações pessoais da internet, relata um aumento de 400% nas consultas de privacidade relacionadas a IA nos últimos sete meses—chegando a alguns milhares. Detalhamento: 55% mencionam ChatGPT, 20% Gemini, 15% Claude, 10% outros. Dois cenários comuns: um usuário pergunta sobre si mesmo e obtém dados precisos de casa/telefone, ou o chatbot gera informações de contato plausíveis, mas incorretas, para outra pessoa.
Rob Shavell (cofundador da DeleteMe) diz que as reclamações geralmente envolvem o chatbot retornando endereços residenciais precisos, números de telefone, nomes de familiares ou detalhes do empregador quando perguntas inocentes sobre o usuário são feitas.
O Que Pode Ser Feito
Especialistas dizem que a causa raiz são os PII nos dados de treinamento, mas o mecanismo exato não é claro. Há pouco que os usuários possam fazer para prevenir a exposição. O artigo sugere que o problema vai piorar à medida que as empresas de IA buscam novas fontes de dados.
📖 Leia a fonte completa: HN AI Agents
👀 See Also
Da Fazenda ao Código: Como um Agricultor Criou uma Defesa de Runtime de Código Aberto para o OpenClaw
Descubra como um agricultor, sem experiência prévia em desenvolvimento, criou uma defesa de tempo de execução de código aberto para o OpenClaw usando múltiplos agentes de IA de codificação em apenas 12 horas.
Claude Code Encontra Vulnerabilidade de 23 Anos no Kernel Linux
O pesquisador da Anthropic, Nicholas Carlini, usou o Claude Code para descobrir múltiplos estouros de buffer de heap remotamente exploráveis no kernel do Linux, incluindo um que estava oculto por 23 anos. A IA encontrou as falhas com supervisão mínima ao escanear toda a árvore de código-fonte do kernel.
Modelo de Segurança do NanoClaw para Agentes de IA: Isolamento de Contêineres e Código Mínimo
O NanoClaw implementa uma arquitetura de segurança onde cada agente de IA é executado em seu próprio contêiner efêmero com acesso de usuário não privilegiado, sistemas de arquivos isolados e listas de permissão de montagem explícitas. A base de código é deliberadamente mínima, com cerca de um processo e um punhado de arquivos, dependendo do SDK de Agentes da Anthropic em vez de reinventar funcionalidades.
Ferramentas de código aberto da Microsoft hackeadas: malware que rouba senhas atinge repositórios de desenvolvedores de IA
Hackers injetaram malware que rouba senhas em pelo menos 70 repositórios do Microsoft GitHub, visando desenvolvedores de IA que usam Claude Code, Gemini CLI e VS Code. Trata-se de uma nova invasão do projeto Durable Task, já comprometido anteriormente.