Google signe un contrat classifié avec le Pentagone pour une utilisation « licite » de l'IA
Google aurait signé un accord classé avec le ministère américain de la Défense (DoD) qui autorise l'armée à utiliser ses modèles d'IA pour « toute fin gouvernementale légale », selon The Information. L'accord intervient un jour après que des employés de Google ont exigé que le PDG Sundar Pichai bloque l'utilisation de l'IA par le Pentagone en raison de préoccupations concernant des applications inhumaines.
Termes clés de l'accord
- Pas de droit de veto : Le contrat stipule explicitement que Google n'a « aucun droit de contrôler ou de veto sur les décisions opérationnelles gouvernementales légales », ce qui signifie que les restrictions sur l'armement et la surveillance sont en réalité des promesses non contraignantes, et non des obligations légales.
- Modifications sur demande : Google doit aider à modifier ses paramètres de sécurité IA et ses filtres à la demande du gouvernement.
- Portée : Les systèmes d'IA ne doivent pas être utilisés pour la surveillance de masse domestique ou des armes autonomes « sans supervision et contrôle humains appropriés » — mais l'application repose sur une bonne foi mutuelle.
Contexte
Google rejoint OpenAI et xAI dans la conclusion d'accords classés sur l'IA avec le gouvernement américain. Anthropic a été blacklisté par le Pentagone plus tôt pour avoir refusé de retirer les garde-fous concernant les armes et la surveillance. Un porte-parole de Google a déclaré : « Nous sommes fiers de faire partie d'un large consortium de laboratoires d'IA de premier plan et d'entreprises technologiques et de cloud fournissant des services et infrastructures d'IA en soutien à la sécurité nationale. »
Implications pour les développeurs
Les développeurs utilisant les modèles d'IA de Google (par exemple via Vertex AI ou Cloud AI) doivent être conscients que les filtres de sécurité peuvent être outrepassés pour les clients gouvernementaux. Cela peut affecter la confiance dans la gouvernance de l'IA de Google, en particulier pour ceux qui comptent sur des garde-fous de sécurité cohérents. Attendez-vous à un examen accru de la manière dont les agents d'IA sont utilisés dans les contextes de défense.
📖 Lire la source complète : HN AI Agents
👀 See Also
Sarvam AI lance des LLM open-source de 30B et 105B avec une infrastructure d'entraînement indienne.
Sarvam AI a rendu open source Sarvam 30B et Sarvam 105B, deux modèles de raisonnement entraînés à partir de zéro en Inde sur des ressources de calcul fournies dans le cadre de la mission IndiaAI. Les deux modèles utilisent une architecture Mixture-of-Experts avec un routage d'experts épars et sont optimisés pour un déploiement efficace sur du matériel allant des GPU aux ordinateurs portables.
OpenAI a secrètement financé un groupe de défense de la vérification de l'âge en Californie
OpenAI a secrètement financé la coalition Parents and Kids Safe AI, un groupe californien qui milite pour des exigences de vérification d'âge dans l'IA, tout en cachant son implication aux autres organisations de plaidoyer. L'entreprise a promis 10 millions de dollars pour soutenir la législation Parents and Kids Safe AI Act.
Andrej Karpathy rejoint l'équipe de pré-entraînement d'Anthropic pour stimuler l'auto-amélioration récursive avec Claude
Andrej Karpathy, ancien cofondateur d'OpenAI, rejoint l'équipe de pré-entraînement d'Anthropic sous la direction de Nick Josef pour constituer une nouvelle équipe axée sur l'utilisation de Claude afin d'accélérer la recherche en pré-entraînement, permettant ainsi une amélioration récursive autonome.
Femme du Tennessee emprisonnée pendant six mois à cause d’une erreur de reconnaissance faciale par IA
Angela Lipps, une grand-mère de 50 ans du Tennessee, a passé près de six mois en prison après que la police de Fargo a utilisé un logiciel de reconnaissance faciale pour l'identifier à tort comme suspecte dans une affaire de fraude bancaire dans le Dakota du Nord. Elle a été libérée la veille de Noël après que des relevés bancaires ont prouvé qu'elle se trouvait à 1 200 miles du lieu des crimes au moment des faits.