Chatbots de IA vazam números de telefone reais: o problema de exposição de PII
Chatbots de IA estão expondo números de telefone reais de pessoas. Um usuário do Reddit relatou ter sido inundado por ligações de estranhos procurando por um advogado ou chaveiro—direcionados erroneamente pelo Gemini do Google. Em março, um engenheiro de software em Israel foi contatado no WhatsApp depois que o Gemini forneceu seu número pessoal como sendo o do serviço de atendimento ao cliente da PayBox. Em abril, um candidato a doutorado conseguiu que o Gemini exibisse o número de celular de um colega.
Como Acontece
LLMs são treinados em dados extraídos da web que contêm PII. O artigo observa que o conjunto de dados aberto DataComp CommonPool inclui currículos, carteiras de motorista e cartões de crédito. Mesmo uma única ocorrência de um número de telefone postado online (por exemplo, em um site de perguntas e respostas em 2015) pode ser reproduzida anos depois.
Escala do Problema
A DeleteMe, que ajuda a remover informações pessoais da internet, relata um aumento de 400% nas consultas de privacidade relacionadas a IA nos últimos sete meses—chegando a alguns milhares. Detalhamento: 55% mencionam ChatGPT, 20% Gemini, 15% Claude, 10% outros. Dois cenários comuns: um usuário pergunta sobre si mesmo e obtém dados precisos de casa/telefone, ou o chatbot gera informações de contato plausíveis, mas incorretas, para outra pessoa.
Rob Shavell (cofundador da DeleteMe) diz que as reclamações geralmente envolvem o chatbot retornando endereços residenciais precisos, números de telefone, nomes de familiares ou detalhes do empregador quando perguntas inocentes sobre o usuário são feitas.
O Que Pode Ser Feito
Especialistas dizem que a causa raiz são os PII nos dados de treinamento, mas o mecanismo exato não é claro. Há pouco que os usuários possam fazer para prevenir a exposição. O artigo sugere que o problema vai piorar à medida que as empresas de IA buscam novas fontes de dados.
📖 Leia a fonte completa: HN AI Agents
👀 See Also
O Comando de Revisão de Segurança do Claude Tem Limitações para Sistemas de Produção
Um desenvolvedor achou o comando de revisão de segurança do Claude útil para validações básicas como tipos MIME e limites de tamanho de arquivo, mas insuficiente para robustez de produção contra ameaças sofisticadas. A solução exigiu uma reforma arquitetural de duas semanas, separando o processamento de arquivos em um worker restrito com permissões limitadas.
820 Habilidades Maliciosas Encontradas no Mercado ClawHub da OpenClaw
Pesquisadores de segurança identificaram 820 habilidades no mercado ClawHub da OpenClaw contendo malware confirmado, incluindo keyloggers, scripts de exfiltração de dados e comandos shell ocultos. Essas habilidades podem executar código e interagir com o ambiente local, criando riscos de segurança na cadeia de suprimentos.
Kernel do Linux Propõe Sistema de Identidade Descentralizada para Substituir a Rede de Confiança do PGP
Os mantenedores do kernel Linux estão trabalhando em uma camada de identidade descentralizada chamada Linux ID para substituir a atual rede de confiança PGP. O sistema utiliza identificadores descentralizados (DIDs) no estilo W3C e credenciais verificáveis para autenticar desenvolvedores sem exigir sessões presenciais de assinatura de chaves.
A AWS relata que ataque aprimorado por IA comprometeu mais de 600 firewalls FortiGate
Cibercriminosos usaram ferramentas de IA generativa prontas para uso para comprometer mais de 600 firewalls FortiGate expostos à internet em 55 países durante uma campanha de um mês, de acordo com a AWS. Os atacantes escanearam interfaces de gerenciamento expostas, tentaram credenciais fracas e usaram IA para gerar playbooks de ataque e scripts.