Caos de la prohibición de exportación de la mitología/fábula de Anthropic: La economía rota de la IA

Ed Zitron en AI's Brokenomics cubre el caótico desenlace de que Anthropic lanzara su supuestamente 'demasiado peligroso' modelo Mythos como una versión con barreras de seguridad llamada Fable, y que recibiera controles de exportación de EE.UU. después de que investigadores lo vulneraran en cuestión de días. Esto es lo que sucedió, basado en el artículo.

La cronología

• Anthropic anunció Claude Mythos, un LLM descrito como 'demasiado poderoso para publicarse'. Lanzado el 2 de junio a 150 organizaciones en 15 países.
• El 9 de junio, Mythos fue lanzado con barreras de seguridad bajo el nombre Fable.
• Investigadores de Amazon vulneraron Fable en cuestión de días, lo que llevó al CEO de Amazon, Andy Jassy, y otras empresas anónimas a reportarlo al Departamento de Comercio de EE.UU. por riesgos de seguridad nacional.
• La administración Trump impuso controles de exportación que prohíben a ciudadanos no estadounidenses acceder a Mythos y Fable, dando a Anthropic 90 minutos para revertir los modelos.

Detalles técnicos clave

• Fable bloquea temas de armas biológicas y ciberseguridad, pero la vulneración sorteó estas barreras.
• Anthropic afirmó que no se encontró una 'vulneración universal', solo evasiones específicas. Declararon que sus salvaguardas son tan sólidas que 'muchos usuarios se han quejado de que son demasiado amplias'.
• El investigador anónimo Pliny The Liberator también rompió los protocolos de seguridad del modelo.
• Davi Ottenheimer publicó una crítica de la tarjeta del sistema de Mythos, argumentando que el modelo es solo un LLM más grande con puntuaciones más altas en pruebas diseñadas para LLMs, no una superación recursiva ni AGI.

Consecuencias

Anthropic ha enviado personal técnico senior a Washington D.C. para negociar con la administración Trump después de que las reuniones virtuales fracasaran. La orden de control de exportaciones prohibió a todos los ciudadanos no estadounidenses (tanto dentro como fuera de EE.UU.) acceder a los modelos, desactivándolos efectivamente a nivel global.

El artículo sugiere que Anthropic pasó años exagerando el riesgo de la IA para asustar a las organizaciones y hacer que pagaran por acceso premium, y que esta reacción regulatoria es una consecuencia natural de esa estrategia.