Los anuncios de Meta contenían CSAM generado por IA; los investigadores encontraron más de 50 en la Biblioteca de Anuncios

Meta ha estado publicando anuncios pagados que contienen material de abuso sexual infantil (CSAM) generado por IA e imágenes de menores con texto sexualmente sugerente, según un informe del Proyecto de Transparencia Tecnológica (TTP) compartido con WIRED. Se descubrieron más de 50 anuncios de imagen y video en la biblioteca de anuncios de Meta, algunos llegaron a miles de cuentas en EE. UU., Reino Unido y Europa.

Hallazgos clave

• Los anuncios se publicaron desde noviembre de 2024 hasta agosto de 2025, dirigidos a hombres en varios países.
• Un anuncio de video usaba una miniatura de un niño con el texto: "Realizando fantasías profundas con Generation AI. Hay mucho más de lo que se muestra, usa tu imaginación." Al hacer clic, mostraba a adultos en actos sexuales y luego agregaba la cara del niño.
• Otro anuncio mostraba a una niña pequeña con las piernas abiertas y el texto "Puedo mostrarte más."
• La mayoría de los anuncios tenían un alcance mínimo, pero uno llegó a 2,563 cuentas en Europa.
• Los anuncios estaban vinculados a aplicaciones de "desnudar" o desvestir.
• TTP informó los hallazgos a NCMEC CyberTipline; NCMEC no comenta sobre informes.

Meta eliminó los anuncios después de que WIRED se comunicó con ellos. Un portavoz dijo que trabajan agresivamente para mantener dicho contenido fuera de la plataforma, señalando que muchos anuncios tenían un alcance mínimo y algunos son anteriores a las nuevas herramientas de detección de IA. Meta afirma haber eliminado más de 36 millones de piezas de contenido de explotación sexual infantil el año pasado y está tomando acciones legales contra los desarrolladores de aplicaciones de desnudar.

Sin embargo, los investigadores encontraron 30 anuncios más horas antes de la publicación, algunos activos, después de que Meta había sido alertado. Esto indica que los sistemas de detección de IA no son totalmente efectivos.

Implicaciones para desarrolladores

Este incidente destaca el desafío continuo de moderar contenido generado por IA a escala. Para los desarrolladores que construyen sistemas de moderación de contenido con IA, la conclusión clave es la necesidad de una detección robusta de CSAM sintético, que puede diferir de las imágenes tradicionales. El hecho de que estos anuncios pasaran por el proceso de revisión de Meta sugiere vacíos en la moderación automatizada y humana.