Jugadores de Go se desempoderan ante la IA: Cómo el engaño se volvió indetectable

El artículo de LessWrong "How Go Players Disempower Themselves to AI" de Ashe Vazquez Nuñez examina la sociología del engaño con IA en torneos de Go, centrándose en un caso específico de los campeonatos europeos por equipos. Puntos clave extraídos:

Antecedentes: AlphaGo vs Lee Sedol

En marzo de 2016, AlphaGo de Google DeepMind derrotó al campeón mundial Lee Sedol 4-1. Inicialmente, la cultura del Go pareció adaptarse de manera similar al Ajedrez, donde la IA se usa para comentarios y enseñanza sin socavar la competencia humana. Sin embargo, el engaño surgió silenciosamente.

El caso Carlo Metta

• Cronología: A principios de 2018, el árbitro del Campeonato Europeo por Equipos acusó al jugador italiano Carlo Metta de usar IA durante una partida en línea.
• IA utilizada: Leela 0.11 (disponible antes de los motores posteriores al artículo de AlphaGo) y luego Leela Zero (motor de código abierto sobrehumano).
• Evidencia: Los acusadores afirmaron que sus elecciones de jugadas coincidían demasiado con Leela 0.11, con una disparidad significativa entre su juego en línea (similar a IA) y su juego presencial (nivel humano). Sin embargo, la evidencia se presentó deficientemente en un hilo de Facebook.
• Resultado: Metta fue inicialmente suspendido, pero tras una apelación del equipo italiano, fue exonerado debido a la evidencia circunstancial y la reacción negativa de la comunidad contra el estigma de las acusaciones de engaño con IA.
• Consecuencias: El nivel presencial de Metta se estancó, pero su rendimiento en línea se disparó: una racha de 9-0 en 2018/2019, 9-1 en 2019/2020, y 25 de 26 partidas ganadas en años posteriores. Su única derrota fue bajo vigilancia por cámara. El artículo señala que ahora es apenas discutible entre los jugadores europeos de Go no italianos que Metta ha usado IA regularmente desde 2018.

Cómo el engaño se volvió trivial

• La vilipendio público de los tramposos con IA resultó contraproducente, haciendo que las acusaciones fueran socialmente costosas.
• El caso Metta sentó un precedente de que incluso el engaño obvio podía quedar impune mediante presión política.
• Como resultado, los eventos europeos en línea vieron una falta casi total de aplicación de normas, haciendo que el engaño fuera trivialmente fácil.

Los desarrolladores que construyen herramientas de integridad de IA para juegos competitivos deben notar cómo las dinámicas adversas pueden hacer que la detección y el castigo sean ineficaces. Los factores sociológicos — estigma, precedente e inercia organizacional — son tan importantes como los métodos técnicos de detección.