Google firma un acuerdo clasificado con el Pentágono para el uso "legal" de la IA

Google supuestamente firmó un acuerdo clasificado con el Departamento de Defensa de EE.UU. (DoD) que permite al ejército usar sus modelos de IA para “cualquier propósito gubernamental lícito”, según The Information. El acuerdo llega un día después de que empleados de Google exigieran al CEO Sundar Pichai bloquear el uso de la IA por parte del Pentágono debido a preocupaciones sobre aplicaciones inhumanas.

Términos clave del acuerdo

• Sin poder de veto: El contrato establece explícitamente que Google no tiene “ningún derecho a controlar o vetar la toma de decisiones operativas gubernamentales lícitas”, lo que significa que las restricciones sobre armamento y vigilancia son promesas no vinculantes, no obligaciones legales.
• Ajustes a solicitud: Google debe ayudar a modificar sus configuraciones y filtros de seguridad de IA a solicitud del gobierno.
• Alcance: Los sistemas de IA no deben usarse para vigilancia masiva doméstica o armas autónomas “sin la supervisión y control humano adecuados”, pero el cumplimiento se basa en la buena fe mutua.

Contexto

Google se une a OpenAI y xAI en la firma de acuerdos clasificados de IA con el gobierno de EE.UU. Anthropic fue incluida en la lista negra del Pentágono anteriormente por negarse a eliminar los bloqueos de seguridad para armas y vigilancia. Un portavoz de Google declaró: “Estamos orgullosos de formar parte de un amplio consorcio de laboratorios de IA líderes y empresas de tecnología y nube que proporcionan servicios e infraestructura de IA en apoyo a la seguridad nacional”.

Implicaciones para desarrolladores

Los desarrolladores que utilizan los modelos de IA de Google (por ejemplo, a través de Vertex AI o Cloud AI) deben ser conscientes de que los filtros de seguridad pueden ser anulados para clientes gubernamentales. Esto puede afectar la confianza en la gobernanza de IA de Google, especialmente para aquellos que dependen de medidas de seguridad consistentes. Se espera un mayor escrutinio sobre cómo se utilizan los agentes de IA en contextos de defensa.