Les tensions s'intensifient entre le Pentagone et l'entreprise d'IA Anthropic.

Des développements récents ont mis en lumière des tensions croissantes entre le Pentagone et Anthropic, un acteur majeur dans le domaine de l'IA connu pour son système de chatbot Claude. Le cœur du problème découle de la volonté du Pentagone d'utiliser les outils d'IA d'Anthropic dans des opérations militaires, ce qui pourrait repousser les limites des lignes directrices éthiques auto-imposées par Anthropic.

Anthropic, avec un contrat de défense potentiellement évalué à 200 millions de dollars, met l'accent sur la sécurité de l'IA et a établi des limites strictes concernant l'utilisation de sa technologie. Bien que les détails de l'application de Claude d'Anthropic restent non divulgués, des rapports indiquent qu'il a été impliqué dans une opération controversée visant à capturer le président vénézuélien Nicolás Maduro.

La situation s'est encore compliquée lorsqu'un employé d'Anthropic aurait exprimé des inquiétudes lors d'une réunion avec Palantir, une entreprise partenaire connue pour traiter des données sensibles dans des applications militaires. Cela a alimenté des spéculations sur une possible fracture dans la relation d'Anthropic avec les organismes militaires, malgré les déclarations d'Anthropic niant toute rupture ou discussions extraordinaires concernant le déploiement de son IA dans des scénarios militaires.

Le Pentagone a réitéré sa position selon laquelle il a besoin de flexibilité pour employer des systèmes d'IA dans un large éventail d'applications militaires légales. Cette position semble entrer en conflit avec les restrictions énoncées par Anthropic, en particulier en ce qui concerne les utilisations impliquant des armes autonomes létales ou la surveillance intérieure.

Cette situation en évolution pourrait conduire à une réévaluation de la manière dont les entreprises d'IA équilibrent leurs partenariats commerciaux avec leurs engagements éthiques, en particulier dans le domaine de la défense.