Les conditions du contrat du Pentagone avec OpenAI autorisent 'toute utilisation légale', y compris une éventuelle surveillance

Le PDG d'OpenAI, Sam Altman, a annoncé que son entreprise a réussi à négocier de nouvelles conditions avec le Pentagone, affirmant que le Département de la Défense a accepté les principes de sécurité d'OpenAI interdisant la surveillance de masse domestique et exigeant une responsabilité humaine pour les systèmes d'armes autonomes. Cependant, des sources proches des négociations affirment que le Pentagone n'a en réalité pas cédé sur ces questions.

La faille de 'toute utilisation légale'

Selon des sources ayant parlé à The Verge, l'accord d'OpenAI est nettement moins contraignant que ce que poussait Anthropic, principalement à cause de trois mots dans le contrat : 'toute utilisation légale'. La source a confirmé que chaque aspect des conditions d'OpenAI se résume à : si c'est techniquement légal, alors l'armée américaine peut utiliser la technologie d'OpenAI pour le mettre en œuvre.

Au cours des dernières décennies, le gouvernement américain a étiré la définition de 'techniquement légal' pour couvrir des programmes de surveillance de masse étendus. Le Pentagone n'aurait pas reculé sur son désir de collecter et d'analyser des données en masse sur les Américains pendant les négociations.

La position d'Anthropic et ses conséquences

Anthropic a été mis sur liste noire par le Département de la Défense pour avoir tenu bon sur deux lignes rouges spécifiques :

• Pas de surveillance de masse des Américains
• Pas d'armes autonomes létales (systèmes d'IA ayant le pouvoir de tuer des cibles sans supervision humaine)

Le secrétaire à la Défense, Pete Hegseth, a désigné Anthropic comme un risque pour la chaîne d'approvisionnement pour ce refus. L'ancien responsable de la recherche en politique d'OpenAI, Miles Brundage, a commenté sur X que 'à la lumière de ce que disent les avocats externes et le Pentagone, l'hypothèse par défaut des employés d'OpenAI devrait malheureusement être qu'OpenAI a cédé + l'a présenté comme ne cédant pas, et a nui à Anthropic tout en le présentant comme les aidant.'

Détails du contrat et réaction de l'industrie

Altman a utilisé le nom préféré de l'administration Trump pour le Département de la Défense, l'appelant le Département de la Guerre (DoW) dans sa déclaration. Il a affirmé que 'le DoW est d'accord avec ces principes, les reflète dans la loi et la politique, et nous les avons intégrés dans notre accord.'

Sur les réseaux sociaux et dans l'industrie de l'IA, les gens ont immédiatement contesté la déclaration d'Altman, se demandant pourquoi le Pentagone accepterait soudainement ces lignes rouges alors qu'il avait précédemment déclaré qu'il ne le ferait jamais. La porte-parole d'OpenAI, Kate Waters, a nié que l'accord permette de franchir certaines limites, déclarant que 'le système ne peut pas être utilisé pour...' bien que la déclaration ait été coupée dans le matériel source.