Google fecha acordo classificado com o Pentágono para uso 'lícito' de IA

O Google supostamente assinou um acordo classificado com o Departamento de Defesa dos EUA (DoD) que permite que os militares usem seus modelos de IA para "qualquer finalidade governamental legal", de acordo com The Information. O acordo ocorre um dia depois que funcionários do Google exigiram que o CEO Sundar Pichai bloqueasse o uso de IA pelo Pentágono devido a preocupações com aplicações desumanas.

Termos Principais do Acordo

• Sem poder de veto: O contrato afirma explicitamente que o Google não tem "qualquer direito de controlar ou vetar a tomada de decisões operacionais legais do governo", o que significa que as restrições sobre armamento e vigilância são efetivamente promessas não vinculantes, não obrigações legais.
• Ajustes mediante solicitação: O Google deve ajudar a modificar suas configurações e filtros de segurança de IA a pedido do governo.
• Escopo: Sistemas de IA não devem ser usados para vigilância doméstica em massa ou armas autônomas "sem supervisão e controle humano adequados" — mas a aplicação depende de boa fé mútua.

Contexto

O Google se junta à OpenAI e xAI em acordos classificados de IA com o governo dos EUA. A Anthropic foi colocada na lista negra do Pentágono anteriormente por se recusar a remover as salvaguardas de armas e vigilância. Um porta-voz do Google afirmou: "Temos orgulho de fazer parte de um amplo consórcio de principais laboratórios de IA e empresas de tecnologia e nuvem que fornecem serviços e infraestrutura de IA em apoio à segurança nacional."

Implicações para Desenvolvedores

Desenvolvedores que usam os modelos de IA do Google (por exemplo, por meio do Vertex AI ou Cloud AI) devem estar cientes de que os filtros de segurança podem ser desativados para clientes governamentais. Isso pode afetar a confiança na governança de IA do Google, especialmente para aqueles que dependem de salvaguardas de segurança consistentes. Espere um aumento no escrutínio sobre como os agentes de IA são usados em contextos de defesa.