YouTube、AIスパムで「ゴーストクリエイター」20チャンネルを削除

YouTubeは、「AIで強化されたゴーストクリエイター」のネットワークに関連する20のチャンネルを削除しました。これらのアカウントは、AIが生成した台本を人間の俳優が読み、広告収入を得るために扇情的な政治動画を制作していました。この措置は、SemaforとRiddance AIの研究者による調査を受けたもので、ネットワークの背後にYouTuberで「グロースハッカー」のCaleb Chanがいることを突き止めました。

ネットワークの仕組み

Chan氏によると、このネットワークは「現代的なメディアスタジオ」として運営され、97人の「ニュースキャスター、編集者、脚本家」を擁していました。これらのチャンネルは、カリフォルニア州知事ギャビン・ニューサムやニューヨーク市長ゾーラン・マムダニなど、民主党の政治家に対する激しく、しばしば不正確な攻撃を含む動画を制作していました。コンテンツは党派的な怒りをあおり、エンゲージメントを促進し、YouTubeの広告システムを通じて収益を得るように設計されていました。

YouTubeの対応

YouTubeはSemaforへの声明で、「スパムや欺瞞的な行為に対する厳格なポリシーを設けています。審査の結果、スパムポリシー違反により20のチャンネル（この記事で言及された13すべてと関連する7つのチャンネルを含む）を削除しました」と述べました。

木曜日までに、ほとんどのチャンネルは利用できなくなりました。一部はYouTubeの規約違反による削除を示すメッセージが表示され、他は所有者によって削除されたかコンテンツが消去されていました。

Chan氏の弁明

Chan氏は報告の詳細を確認しましたが、自身の事業を商業的ではなくイデオロギー的なものと位置づけました。同氏はSemaforの報道を「ネガティブキャンペーン」と呼び、自身のチャンネルは「マムダニのような偽善的な社会主義者を詳細に暴露した」と付け加えました。

AI生成コンテンツへの影響

このケースは、AI生成コンテンツとプラットフォームのポリシーの間の緊張が高まっていることを浮き彫りにしています。YouTubeは多くの場合AI生成コンテンツを許可していますが、欺瞞的な行為やスパムは厳しく禁止しています。今回の取り締まりは、プラットフォームがAIを使用してコンテンツ制作を人為的に拡大するネットワークを積極的に探していることを示しています。

AIを活用したコンテンツツールを開発している開発者にとって、これは警告です。人間の監視なしに（または誤解を招く枠組みで）スケールすると、ネットワーク全体が禁止される可能性があります。常にコンテンツがプラットフォームのポリシーに準拠していることを確認し、必要な場合はAIの関与を明確に開示してください。