YouTube supprime 20 chaînes « créateurs fantômes » pour spam IA

YouTube a supprimé 20 chaînes liées à un réseau de « créateurs fantômes boostés à l'IA » — des comptes qui utilisaient des acteurs humains lisant des scripts générés par IA pour produire des vidéos politiques sensationnalistes afin de générer des revenus publicitaires. Cette action fait suite à une enquête de Semafor et de chercheurs de Riddance AI, qui ont retracé le réseau jusqu'à Caleb Chan, un YouTuber et « growth-hacker ».

Le réseau et son fonctionnement

Le réseau fonctionnait comme un « studio média moderne » avec 97 « présentateurs, rédacteurs et scénaristes », selon Chan. Ces chaînes produisaient des vidéos aux attaques virulentes — et souvent inexactes — contre des politiciens démocrates comme le gouverneur de Californie Gavin Newsom et le maire de New York Zohran Mamdani. Le contenu était conçu pour attiser l'indignation partisane et stimuler l'engagement, générant de l'argent via le système publicitaire de YouTube.

Ce que YouTube a fait

Dans une déclaration à Semafor, YouTube a déclaré : « Nous avons des politiques strictes contre le spam et les pratiques trompeuses. Après examen, nous avons supprimé 20 chaînes — y compris les 13 mentionnées dans cet article et sept chaînes associées — pour violation de nos politiques anti-spam. »

Dès jeudi, la plupart des chaînes étaient indisponibles. Certaines affichaient un message indiquant leur suppression pour violation des règles de YouTube, tandis que d'autres avaient été supprimées ou vidées de leur contenu par leurs propriétaires.

La défense de Chan

Chan a confirmé les détails du rapport mais a présenté son opération comme idéologique plutôt que commerciale. Il a qualifié l'article de Semafor de « coup monté », ajoutant que ses chaînes « partageaient des exposés détaillés de socialistes hypocrites comme Mamdani ».

Implications pour le contenu généré par IA

Cette affaire met en lumière la tension croissante entre le contenu généré par IA et les politiques des plateformes. Bien que YouTube autorise le contenu généré par IA dans de nombreux cas, il interdit strictement les pratiques trompeuses et le spam. Cette répression signale que les plateformes traquent activement les réseaux qui utilisent l'IA pour augmenter artificiellement la production de contenu.

Pour les développeurs créant des outils de contenu alimentés par l'IA, c'est un avertissement : l'échelle sans surveillance humaine (ou avec un cadrage trompeur) peut faire bannir tout votre réseau. Assurez-vous toujours que votre contenu respecte les politiques de la plateforme et divulguez clairement l'implication de l'IA lorsque cela est requis.