Definiendo la 'psicosis por IA prolífica': cuando la alta producción de IA destruye el valor

El psiquiatra Jeff Clark, MD, continúa su serie sobre la "psicosis de IA" definiendo la segunda de tres categorías: psicosis de IA prolífica. Su definición: una persona genera una gran cantidad de producción de IA sin aumentar significativamente el valor real de su trabajo, y en algunos casos el nuevo flujo de trabajo con IA destruye activamente el valor.

El síntoma central: no puedes juzgar tu propia producción

El ejemplo de Clark es un ingeniero de software que puede producir miles de líneas de código cada día, donde el código tiene poca utilidad en el mundo real. Contrasta esto con un desarrollador productivo, que puede escribir menos código pero produce código valioso para los usuarios y la organización. Su planteamiento:

• Algunos días son grandes adiciones al código base.
• Otros días se dedican a eliminar código innecesario.
• Ocasionalmente, se corrige un error que rompe el software cambiando un único carácter.

Las líneas de código se correlacionan solo débilmente con la productividad. Su analogía con la escritura: si un escritor que te gusta produce unas respetables 1000 palabras al día, con razón te preocuparías si de repente escribiera 100 000 palabras al día: el cuidado que se pone en elegir 1000 palabras excelentes no se puede mantener a un volumen 100 veces mayor.

El punto clave: el problema no es el aumento de la producción. Más código y más texto pueden ser genuinamente más productivos. El problema es la percepción que el sujeto tiene de su propia producción. No puede evaluar la calidad de su propio trabajo. Clark dice que esto imita a la psicosis como una leve desconexión de la realidad: un defecto en el pensamiento crítico.

Por qué los arneses de agentes elevan las apuestas

Clark distingue el uso de estilo chat (conversaciones con ChatGPT, resúmenes de Gemini en la búsqueda de Google) de las herramientas de vanguardia envueltas en un arnés de agentes: un programa diseñado para trabajar en tareas complejas hasta encontrar una solución, tomar decisiones, abrir programas, acceder a internet y escribir software.

Su ejemplo concreto: hace diez años, una aplicación para iPhone implicaba docenas de horas de leer y escribir código. Hoy escribes unas frases en Claude Code, respondes unas preguntas y aparece una aplicación en minutos. Los arneses también pueden crear bucles que llaman repetidamente a los modelos, avanzando por una lista de tareas de desarrollo de software hasta construir una aplicación completa.

Los modos de fallo que enumera:

• Se crean varios archivos nuevos cuando una corrección de una línea habría bastado.
• Afirmaciones seguras de que una nueva solución funciona, mientras que el software real está más roto que nunca.
• El código se convierte en un lío enredado difícil de leer y casi imposible de ampliar.
• Problemas de hace décadas ya resueltos por bibliotecas de código abierto se reconstruyen desde cero, lo que hace que el producto sea dolorosamente lento.

El resumen de Clark de los modelos actuales: son "una parte ingeniero sénior y una parte niño pequeño corriendo por una alfombra blanca con una jarra de Kool-Aid rojo". Tu trabajo es determinar cuál es cuál, y señala que ambas partes hablan con total confianza. Existen mitigaciones, pero desarrollar ese criterio es una habilidad que lleva tiempo.

Las otras dos categorías

La parte 1 cubrió la verdadera psicosis de IA (experiencias psicóticas genuinas relacionadas con el uso de LLM, que, según argumenta, generalmente son una variante de una psicosis preexistente más que un síndrome nuevo). Una tercera categoría, la psicosis de IA parasocial, abarca las relaciones desadaptativas con chatbots que imitan la conexión humana.