Les cybercriminels résistent au contenu généré par l'IA sur les forums clandestins

Une étude analysant 97 895 discussions liées à l'IA sur des forums de cybercriminalité, du lancement de ChatGPT en 2022 jusqu'à fin 2024, révèle un ressentiment croissant envers le contenu généré par l'IA. Des chercheurs des universités d'Édimbourg, de Cambridge et de Strathclyde ont observé des réactions négatives sur des forums comme Hack Forums, où des utilisateurs se plaignent que des membres publient des « explications en points » de concepts de sécurité basiques et des réponses génériques produites par l'IA.

Principales conclusions

• Perturbation sociale : Ben Collier, chercheur en sécurité à l'Université d'Édimbourg, note que ces forums sont « essentiellement des espaces sociaux » où les utilisateurs construisent leur réputation. Les publications IA sapent les revendications de compétence et entravent la construction d'amitiés.
• Plaintes directes : Des citations incluent « Je vois beaucoup de membres utiliser l'IA pour leurs fils/messages et ça me rend furieux » et « Arrêtez de poster de la merde IA. » Un utilisateur a écrit : « Si je voulais discuter avec un chatbot IA, il y a beaucoup de sites pour ça… Je viens ici pour l'interaction humaine. »
• Qualité vs. quantité : Les cybercriminels de bas niveau inondent les forums de contenu généré par l'IA, avec des « messages de faible qualité » et des explications automatisées, agaçant les membres établis.
• Jeu de réputation : Les nouveaux arrivants utilisent l'IA pour gonfler leur réputation en postant du contenu superficiel mais soigné, ce qui les expose à la méfiance des utilisateurs expérimentés.
• Scepticisme des élites : Ian VP de Flashpoint, Gray, dit que les acteurs de menace sophistiqués sont « prudents vis-à-vis des projets générés par l'IA sur les forums ou les places de marché » et sont conscients des faiblesses des garde-fous des modèles commerciaux et des risques d'exposition de l'infrastructure.

Contexte

Alors que certains fraudeurs organisés utilisent l'IA pour le remplacement de visage réaliste, la traduction et la génération de code, la communauté de piratage de bas niveau voit la « slop IA » comme une menace pour la culture du forum. L'étude note également des préoccupations concernant les aperçus de recherche IA de Google qui réduisent le trafic des forums. Comme l'a dit un commentateur anonyme : « Personne ne demande ça — on veut que vous amélioriez le site, arrêtez de facturer de nouvelles fonctionnalités. »