Les joueurs de Go se soumettent à l'IA : comment la triche est devenue indétectable

L'article de LessWrong « How Go Players Disempower Themselves to AI » par Ashe Vazquez Nuñez examine la sociologie de la triche par IA dans les tournois de Go, en se concentrant sur un cas spécifique lors de championnats européens par équipes. Points clés extraits :

Contexte : AlphaGo contre Lee Sedol

En mars 2016, AlphaGo de Google DeepMind a battu le champion du monde Lee Sedol 4-1. Initialement, la culture du Go semblait s'adapter de manière similaire aux échecs, où l'IA est utilisée pour les commentaires et l'enseignement sans nuire à la compétition humaine. Cependant, la triche a discrètement émergé.

L'affaire Carlo Metta

• Chronologie : Début 2018, l'arbitre du Championnat d'Europe par équipes a accusé le joueur italien Carlo Metta d'utiliser l'IA lors d'une partie en ligne.
• IA utilisée : Leela 0.11 (disponible avant les moteurs du papier AlphaGo) puis Leela Zero (moteur open-source surhumain).
• Preuves : Les accusateurs affirmaient que ses choix de coups correspondaient trop étroitement à Leela 0.11, avec un écart significatif entre son jeu en ligne (similaire à l'IA) et son jeu sur plateau (OTB, de niveau humain). Cependant, les preuves ont été présentées de manière médiocre dans un fil Facebook.
• Résultat : Metta a d'abord été banni, mais après un appel de l'équipe italienne, il a été disculpé en raison de preuves circonstancielles et de la réaction négative de la communauté contre la stigmatisation des accusations de triche par IA.
• Conséquences : Le niveau OTB de Metta a stagné, mais ses performances en ligne ont grimpé en flèche : une série de 9-0 en 2018/2019, 9-1 en 2019/2020, et 25 parties gagnées sur 26 les années suivantes. Sa seule défaite a eu lieu sous la surveillance d'une caméra. L'article note qu'il est désormais à peine contestable parmi les joueurs de Go européens non italiens que Metta utilise régulièrement l'IA depuis 2018.

Comment la triche est devenue triviale

• La stigmatisation publique des tricheurs par IA a eu l'effet inverse, rendant les accusations coûteuses socialement.
• L'affaire Metta a créé un précédent selon lequel même une triche évidente pouvait rester impunie sous la pression politique.
• En conséquence, les tournois européens en ligne ont connu un manque quasi total de répression, rendant la triche extrêmement facile.

Les développeurs créant des outils d'intégrité IA pour les jeux compétitifs devraient noter comment les dynamiques adverses peuvent rendre la détection et la punition inefficaces. Les facteurs sociologiques — stigmatisation, précédent et inertie organisationnelle — sont aussi importants que les méthodes techniques de détection.