El Ejército de EE. UU. presiona a Anthropic para que elimine las salvaguardas de Claude para uso militar

El Departamento de Defensa de EE. UU. está presionando a Anthropic para que elimine las salvaguardias éticas de su modelo de IA Claude y permita aplicaciones militares que la empresa actualmente restringe. El secretario de Defensa, Pete Hegseth, se reunió con el director ejecutivo de Anthropic, Dario Amodei, el martes y dio a la empresa hasta el viernes para aceptar los términos del Pentágono o enfrentar sanciones.

Detalles clave de las negociaciones

Según el material de origen:

• El Pentágono quiere "acceso sin restricciones" a las capacidades de Claude para uso militar
• Anthropic se ha resistido a permitir que Claude se utilice para vigilancia masiva o sistemas de armas autónomas que puedan matar sin intervención humana
• El Departamento de Defensa ha amenazado con cancelar su contrato con Anthropic y designar a la empresa como un "riesgo para la cadena de suministro" si no cumple
• El Departamento de Defensa firmó acuerdos con varias empresas de IA, incluidas Anthropic, Google y OpenAI, en julio de 2025, por un valor de hasta 200 millones de dólares
• Hasta esta semana, Claude era el único modelo de IA permitido en los sistemas clasificados del ejército
• El Departamento de Defensa firmó un acuerdo el lunes que permite el uso del chatbot xAI de Elon Musk en sistemas clasificados
• Tanto xAI como OpenAI han aceptado los términos del gobierno, y OpenAI permite que su modelo se utilice para "todos los fines legales"

Antecedentes y contexto

La reunión se produce tras los informes de que el ejército estadounidense utilizó a Claude para ayudar en la captura del líder venezolano Nicolás Maduro el mes pasado. Ha habido un impulso de la administración Trump para integrar la IA en las operaciones militares, y Donald Trump ha prometido que EE. UU. ganará una carrera armamentística global de IA.

El director de tecnología del Pentágono, Emil Michael, ha hecho campaña públicamente para que Anthropic "cruce el Rubicón" y acepte los términos del gobierno, afirmando: "Creo que si alguien quiere ganar dinero del gobierno, del Departamento de Guerra de EE. UU., esas barreras de protección deben ajustarse para nuestros casos de uso, siempre que sean legales".

Anthropic se ha posicionado como la empresa de IA más centrada en la seguridad y ha respaldado comités de acción política que abogan por salvaguardias más fuertes para la IA. La empresa ha contratado a varios ex empleados de Biden, lo que, según los informes, contribuyó a que una firma de capital de riesgo pro-Trump dejara de invertir en Anthropic a principios de este año.

Implicaciones más amplias

El Pentágono ha invertido miles de millones en tecnologías de IA, incluidos drones no tripulados y sistemas de selección de objetivos automatizados. El debate ético en torno a la toma de decisiones de IA para el uso de fuerza letal ya no es teórico, ya que Ucrania cuenta con drones semiautónomos que pueden operar sin control humano.

Esta situación pone de relieve la tensión entre las directrices éticas de las empresas de IA y las demandas gubernamentales de aplicaciones militares. Para los desarrolladores que trabajan con agentes de IA, plantea preguntas sobre cómo interactúan las salvaguardias del modelo con diferentes entornos de implementación y los marcos legales que rigen el uso de la IA.