¿El mito de Claude de Anthropic: ¿Miedo o riesgo real?

Anthropic anunció recientemente Claude Mythos, un modelo que afirma superar a los expertos humanos en la detección de errores de ciberseguridad. En una publicación de blog a principios de abril, la empresa advirtió sobre graves consecuencias para las economías, la seguridad pública y la seguridad nacional si una tecnología similar cae en manos equivocadas. Algunos observadores incluso predijeron el reemplazo masivo de dispositivos, desde laptops hasta microondas WiFi.

Pero los expertos en seguridad dudan de las afirmaciones, y los críticos ven un patrón: las empresas de IA amplifican las narrativas de riesgo existencial para distraer de los daños del mundo real, inflar los precios de las acciones y posicionarse como los únicos administradores responsables. Shannon Vallor, profesora de ética en la Universidad de Edimburgo, argumenta que presentar la IA como "sobrenaturalmente peligrosa" hace que los reguladores se sientan impotentes, dejando solo a las propias empresas como guardianas.

Esto no es nuevo. En 2019, el CEO de Anthropic, Dario Amodei, entonces en OpenAI, ayudó a declarar que GPT-2 era demasiado peligroso para publicarlo, citando aplicaciones maliciosas. Meses después, OpenAI lo publicó de todos modos, y Sam Altman calificó más tarde esos temores como "fuera de lugar". Altman criticó recientemente el "marketing basado en el miedo" de Anthropic, aunque su propio manual incluyó advertencias similares de que la IA "probablemente llevará al fin del mundo, pero mientras tanto, habrá grandes empresas".

El portavoz de Anthropic se negó a abordar los puntos del artículo, pero compartió publicaciones de blog de apoyo de otras organizaciones. El patrón sugiere que el miedo es una estrategia deliberada, ya sea Mythos tan peligroso como se afirma o no.