Anúncios do Meta continham CSAM gerado por IA; pesquisadores encontraram mais de 50 na biblioteca de anúncios

O Meta tem veiculado anúncios pagos contendo material de abuso sexual infantil (CSAM) gerado por IA e imagens de menores com texto sexualmente sugestivo, segundo um relatório do Tech Transparency Project (TTP) compartilhado com a WIRED. Mais de 50 anúncios de imagem e vídeo foram descobertos na biblioteca de anúncios do Meta, alguns alcançando milhares de contas nos EUA, Reino Unido e Europa.

Principais Descobertas

• Os anúncios foram veiculados de novembro de 2024 a agosto de 2025, direcionados a homens em vários países.
• Um anúncio em vídeo usava uma miniatura de uma criança com o texto: "Realizando Fantasias Profundas com Geração IA. Há muito mais do que é mostrado, use sua imaginação." Ao clicar, mostrava adultos em atos sexuais e depois adicionava o rosto da criança.
• Outro anúncio mostrava uma menina jovem com as pernas abertas e o texto "Posso te mostrar mais".
• A maioria dos anúncios teve alcance mínimo, mas um alcançou 2.563 contas na Europa.
• Os anúncios estavam ligados a apps de 'nudificação' ou despir.
• O TTP relatou as descobertas ao NCMEC CyberTipline; o NCMEC não comenta sobre relatórios.

O Meta removeu os anúncios depois que a WIRED os contatou. Um porta-voz disse que eles trabalham agressivamente para manter esse tipo de conteúdo fora da plataforma, observando que muitos anúncios tiveram alcance mínimo e alguns são anteriores às novas ferramentas de detecção de IA. O Meta afirma ter removido mais de 36 milhões de conteúdo de exploração sexual infantil (CSE) no ano passado e está tomando medidas legais contra desenvolvedores de aplicativos de nudificação.

No entanto, pesquisadores encontraram mais 30 anúncios horas antes da publicação, alguns ao vivo, depois que o Meta já havia sido alertado. Isso indica que os sistemas de detecção de IA não são totalmente eficazes.

Implicações para Desenvolvedores

Este incidente destaca o desafio contínuo de moderar conteúdo gerado por IA em escala. Para desenvolvedores que constroem sistemas de moderação de conteúdo com IA, a principal lição é a necessidade de detecção robusta de CSAM sintético, que pode diferir das imagens tradicionais. O fato de esses anúncios terem passado pelo processo de revisão do Meta sugere lacunas na moderação automatizada e humana.