Las tensiones se intensifican entre el Pentágono y la compañía de IA Anthropic.

Desarrollos recientes han puesto de manifiesto las crecientes tensiones entre el Pentágono y Anthropic, un actor importante en el espacio de la IA conocido por su sistema de chatbot Claude. El núcleo del problema radica en el deseo del Pentágono de utilizar las herramientas de IA de Anthropic en operaciones militares, lo que podría extender los límites de las directrices éticas autoimpuestas de Anthropic.

Anthropic, con un contrato de defensa potencialmente valorado en $200 millones, enfatiza la seguridad de la IA y ha delineado límites estrictos sobre el uso de su tecnología. Aunque los detalles de cómo se aplicó Claude de Anthropic siguen sin revelarse, los informes indican que estuvo involucrado en una operación polémica para capturar al presidente venezolano Nicolás Maduro.

La situación se complicó aún más cuando un empleado de Anthropic expresó preocupaciones durante una reunión con Palantir, una empresa socia conocida por manejar datos sensibles en aplicaciones militares. Esto ha alimentado las especulaciones sobre una posible fractura en la relación de Anthropic con los organismos militares, a pesar de las declaraciones de Anthropic que niegan cualquier desacuerdo o discusiones extraordinarias sobre el despliegue de su IA en escenarios militares.

El Pentágono ha reiterado su posición de que necesita flexibilidad para emplear sistemas de IA en una amplia gama de aplicaciones militares legales. Esta postura parece entrar en conflicto con las restricciones delineadas por Anthropic, especialmente en lo que respecta a usos que involucren armas autónomas letales o vigilancia doméstica.

Esta situación en desarrollo puede llevar a una reevaluación de cómo las empresas de IA equilibran sus asociaciones comerciales con sus compromisos éticos, particularmente en el dominio de la defensa.