El Sam Altman de OpenAI apoya las líneas rojas del Pentágono de Anthropic y propone salvaguardas técnicas.

Límites Éticos Alineados con OpenAI en la IA de Defensa

Sam Altman, CEO de OpenAI, ha apoyado públicamente la postura de Anthropic en su desacuerdo continuo con el Pentágono, afirmando que OpenAI comparte las mismas "líneas rojas" éticas respecto a las aplicaciones de IA. Específicamente, ambas empresas se oponen al uso de la IA para vigilancia masiva y sistemas de armas autónomas.

Salvaguardas Técnicas en Lugar de Enfoques Contractuales

Para resolver el estancamiento con el Departamento de Defensa, OpenAI está trabajando en un acuerdo que enfatiza salvaguardas técnicas en lugar de restricciones contractuales. El enfoque propuesto incluye medidas como el despliegue exclusivo en la nube, lo que mantendría el control sobre los sistemas de IA a través de limitaciones de infraestructura en lugar de acuerdos legales.

Este enfoque técnico de gobernanza de la IA refleja una tendencia creciente en la industria donde las empresas implementan restricciones arquitectónicas para hacer cumplir los límites éticos. El despliegue exclusivo en la nube, por ejemplo, evita la ejecución local de modelos que podrían modificarse para usos prohibidos, mientras mantiene registros de auditoría y monitoreo de uso a través de una infraestructura centralizada.

El creciente interés del Pentágono en las capacidades de IA para aplicaciones de defensa ha creado tensión con las empresas de IA que han establecido pautas éticas. Esta situación resalta los desafíos prácticos de implementar políticas de IA responsables al tratar con contratos gubernamentales que pueden tener potencial de doble uso.