メタ広告にAI生成のCSAMが含まれていた；研究者が広告ライブラリで50件以上を発見

Metaは、AI生成の児童性的虐待コンテンツ（CSAM）や性的に示唆的なテキストを含む未成年の画像を含む有料広告を掲載していたことが、Tech Transparency Project（TTP）の報告書（WIREDが入手）で明らかになった。Metaの広告ライブラリで50件以上の画像・動画広告が見つかり、米国、英国、欧州の数千のアカウントにリーチしたものもあった。

主な発見

• 広告は2024年11月から2025年8月まで掲載され、複数国の男性をターゲットにしていた。
• ある動画広告は、子供のサムネイルに「Generation AIで深い幻想を実現。見えている以上のものがある、想像力を働かせて」というテキストを添えたものだった。クリックすると、性的行為を行う大人の映像が表示された後、子供の顔が重ねられた。
• 別の広告は、脚を広げた少女と「もっと見せてあげられる」というテキストを表示していた。
• ほとんどの広告のリーチは最小限だったが、1つの広告は欧州で2,563アカウントにリーチした。
• 広告は「ヌード化」アプリや「脱衣」アプリにリンクしていた。
• TTPは発見をNCMEC CyberTiplineに報告した。NCMECは報告についてコメントしていない。

WIREDの問い合わせ後、Metaは広告を削除した。広報担当者は、同社はそのようなコンテンツをプラットフォームから排除するために積極的に取り組んでおり、多くの広告のリーチは最小限で、一部は新しいAI検出ツールの導入前のものだと述べた。Metaは昨年、3,600万件以上の児童性的搾取コンテンツを削除し、ヌード化アプリ開発者に対して法的措置を取っていると主張している。

しかし、研究者らは公開の数時間前にさらに30件の広告を発見し、その中にはMetaが警告を受けた後も掲載中のものもあった。これはAI検出システムが完全に効果的でないことを示している。

開発者への影響

この事件は、大規模なAI生成コンテンツのモデレーションという継続的な課題を浮き彫りにしている。AIコンテンツモデレーションシステムを構築する開発者にとって、重要な教訓は、従来の画像とは異なる可能性のある合成CSAMの堅牢な検出の必要性である。これらの広告がMetaの審査プロセスを通過したという事実は、自動および人間によるモデレーションにギャップがあることを示唆している。