Google signe un contrat classifié avec le Pentagone pour une utilisation « licite » de l'IA

Google aurait signé un accord classé avec le ministère américain de la Défense (DoD) qui autorise l'armée à utiliser ses modèles d'IA pour « toute fin gouvernementale légale », selon The Information. L'accord intervient un jour après que des employés de Google ont exigé que le PDG Sundar Pichai bloque l'utilisation de l'IA par le Pentagone en raison de préoccupations concernant des applications inhumaines.

Termes clés de l'accord

• Pas de droit de veto : Le contrat stipule explicitement que Google n'a « aucun droit de contrôler ou de veto sur les décisions opérationnelles gouvernementales légales », ce qui signifie que les restrictions sur l'armement et la surveillance sont en réalité des promesses non contraignantes, et non des obligations légales.
• Modifications sur demande : Google doit aider à modifier ses paramètres de sécurité IA et ses filtres à la demande du gouvernement.
• Portée : Les systèmes d'IA ne doivent pas être utilisés pour la surveillance de masse domestique ou des armes autonomes « sans supervision et contrôle humains appropriés » — mais l'application repose sur une bonne foi mutuelle.

Contexte

Google rejoint OpenAI et xAI dans la conclusion d'accords classés sur l'IA avec le gouvernement américain. Anthropic a été blacklisté par le Pentagone plus tôt pour avoir refusé de retirer les garde-fous concernant les armes et la surveillance. Un porte-parole de Google a déclaré : « Nous sommes fiers de faire partie d'un large consortium de laboratoires d'IA de premier plan et d'entreprises technologiques et de cloud fournissant des services et infrastructures d'IA en soutien à la sécurité nationale. »

Implications pour les développeurs

Les développeurs utilisant les modèles d'IA de Google (par exemple via Vertex AI ou Cloud AI) doivent être conscients que les filtres de sécurité peuvent être outrepassés pour les clients gouvernementaux. Cela peut affecter la confiance dans la gouvernance de l'IA de Google, en particulier pour ceux qui comptent sur des garde-fous de sécurité cohérents. Attendez-vous à un examen accru de la manière dont les agents d'IA sont utilisés dans les contextes de défense.