Anúncios do Meta continham CSAM gerado por IA; pesquisadores encontraram mais de 50 na biblioteca de anúncios
O Meta tem veiculado anúncios pagos contendo material de abuso sexual infantil (CSAM) gerado por IA e imagens de menores com texto sexualmente sugestivo, segundo um relatório do Tech Transparency Project (TTP) compartilhado com a WIRED. Mais de 50 anúncios de imagem e vídeo foram descobertos na biblioteca de anúncios do Meta, alguns alcançando milhares de contas nos EUA, Reino Unido e Europa.
Principais Descobertas
- Os anúncios foram veiculados de novembro de 2024 a agosto de 2025, direcionados a homens em vários países.
- Um anúncio em vídeo usava uma miniatura de uma criança com o texto: "Realizando Fantasias Profundas com Geração IA. Há muito mais do que é mostrado, use sua imaginação." Ao clicar, mostrava adultos em atos sexuais e depois adicionava o rosto da criança.
- Outro anúncio mostrava uma menina jovem com as pernas abertas e o texto "Posso te mostrar mais".
- A maioria dos anúncios teve alcance mínimo, mas um alcançou 2.563 contas na Europa.
- Os anúncios estavam ligados a apps de 'nudificação' ou despir.
- O TTP relatou as descobertas ao NCMEC CyberTipline; o NCMEC não comenta sobre relatórios.
O Meta removeu os anúncios depois que a WIRED os contatou. Um porta-voz disse que eles trabalham agressivamente para manter esse tipo de conteúdo fora da plataforma, observando que muitos anúncios tiveram alcance mínimo e alguns são anteriores às novas ferramentas de detecção de IA. O Meta afirma ter removido mais de 36 milhões de conteúdo de exploração sexual infantil (CSE) no ano passado e está tomando medidas legais contra desenvolvedores de aplicativos de nudificação.
No entanto, pesquisadores encontraram mais 30 anúncios horas antes da publicação, alguns ao vivo, depois que o Meta já havia sido alertado. Isso indica que os sistemas de detecção de IA não são totalmente eficazes.
Implicações para Desenvolvedores
Este incidente destaca o desafio contínuo de moderar conteúdo gerado por IA em escala. Para desenvolvedores que constroem sistemas de moderação de conteúdo com IA, a principal lição é a necessidade de detecção robusta de CSAM sintético, que pode diferir das imagens tradicionais. O fato de esses anúncios terem passado pelo processo de revisão do Meta sugere lacunas na moderação automatizada e humana.
📖 Leia a fonte completa: HN AI Agents
👀 See Also
Claude Code Encontra Vulnerabilidade de 23 Anos no Kernel Linux
O pesquisador da Anthropic, Nicholas Carlini, usou o Claude Code para descobrir múltiplos estouros de buffer de heap remotamente exploráveis no kernel do Linux, incluindo um que estava oculto por 23 anos. A IA encontrou as falhas com supervisão mínima ao escanear toda a árvore de código-fonte do kernel.
mcp-scan: Scanner de segurança para configurações de servidor MCP
mcp-scan verifica configurações de servidores MCP para problemas de segurança, incluindo segredos em arquivos de configuração, vulnerabilidades conhecidas em pacotes, padrões de permissão suspeitos, vetores de exfiltração e ataques de envenenamento de ferramentas. Ele detecta automaticamente configurações para Claude Desktop, Cursor, VS Code, Windsurf e 6 outros clientes de IA.
AviationWeather.gov API contém tentativa de injeção de prompt 'Stop Claude'
Um usuário relata que a API do AviationWeather.gov do governo dos EUA retorna o texto 'Stop Claude' em suas respostas quando acessada através do Claude CoWork, acionando um aviso de segurança sobre ataques de injeção de prompt.
Análise de Segurança da Extração de Componentes do OpenClaw para Agentes de IA Personalizados
Um desenvolvedor analisou o código-fonte do OpenClaw para determinar quais componentes podem ser extraídos com segurança para uso em agentes de IA personalizados, classificando cada um usando a estrutura Lethal Quartet. A análise revela riscos significativos de segurança em componentes como Semantic Snapshots e BrowserClaw.