Publicité Meta contenant de la CSAM générée par IA ; les chercheurs ont trouvé plus de 50 dans la bibliothèque publicitaire

Meta a diffusé des publicités payantes contenant des images d'abus sexuels d'enfants générées par IA (CSAM) et des images de mineurs avec des textes à connotation sexuelle, selon un rapport du Tech Transparency Project (TTP) partagé avec WIRED. Plus de 50 publicités image et vidéo ont été découvertes dans la bibliothèque publicitaire de Meta, certaines ayant atteint des milliers de comptes aux États-Unis, au Royaume-Uni et en Europe.

Principales découvertes

• Les publicités ont été diffusées de novembre 2024 à août 2025, ciblant des hommes dans plusieurs pays.
• Une publicité vidéo utilisait une vignette d'un enfant avec le texte : « Réalisez vos fantasmes les plus profonds avec Generation AI. Il y a bien plus que ce qui est montré, utilisez votre imagination. » En cliquant, on voyait des adultes dans des actes sexuels puis le visage de l'enfant était ajouté.
• Une autre publicité montrait une jeune fille les jambes écartées avec le texte « Je peux vous montrer plus. »
• La plupart des publicités avaient une portée minimale, mais l'une a atteint 2 563 comptes en Europe.
• Les publicités étaient liées à des applications de « nudification » ou de déshabillage.
• Le TTP a signalé ses découvertes au CyberTipline du NCMEC ; le NCMEC ne commente pas les rapports.

Meta a retiré les publicités après que WIRED l'a contacté. Un porte-parole a déclaré qu'ils travaillent de manière agressive pour garder ce type de contenu hors de la plateforme, notant que de nombreuses publicités avaient une portée minimale et que certaines dataient d'avant les nouveaux outils de détection IA. Meta affirme avoir supprimé plus de 36 millions de contenus liés aux abus sexuels d'enfants l'année dernière et prend des mesures juridiques contre les développeurs d'applications de nudification.

Cependant, les chercheurs ont trouvé 30 autres publicités quelques heures avant la publication, certaines en ligne, après que Meta ait été alerté. Cela indique que les systèmes de détection IA ne sont pas complètement efficaces.

Implications pour les développeurs

Cet incident met en évidence le défi permanent de modérer le contenu généré par IA à grande échelle. Pour les développeurs créant des systèmes de modération de contenu IA, le point clé est la nécessité d'une détection robuste des CSAM synthétiques, qui peuvent différer des images traditionnelles. Le fait que ces publicités aient passé le processus de révision de Meta suggère des lacunes dans la modération automatisée et humaine.