Anthropic refuse les demandes du Pentagone de supprimer les mesures de sécurité et perd des contrats fédéraux
Anthropic a refusé une exigence du Pentagone de supprimer les garde-fous de sécurité de leur système d'IA Claude pour des applications militaires, entraînant des pertes importantes de contrats fédéraux et un décret présidentiel interdisant à toutes les agences fédérales d'utiliser leur technologie.
Détails clés de la source
Le Pentagone a donné à Anthropic un délai pour supprimer les garde-fous de sécurité de Claude spécifiquement pour des cas d'utilisation militaires, y compris les armes autonomes et la surveillance de masse des Américains. Selon la source, le PDG d'Anthropic Dario Amodei a déclaré qu'ils "ne pouvaient en bonne conscience accepter" ces exigences.
Le Pentagone a répondu en menaçant de retirer leur contrat de 200 millions de dollars et d'invoquer le Defense Production Act. Suite à cela, un décret présidentiel a été émis exigeant que CHAQUE agence fédérale cesse immédiatement d'utiliser la technologie d'Anthropic.
La source note qu'Anthropic a renoncé à plus de 200 millions de dollars de contrats plutôt que de compromettre leurs normes de sécurité. Sur une note technique distincte, la source mentionne qu'Anthropic a réinitialisé les limites d'utilisation pour tous les utilisateurs, effaçant toute limite de compte précédente.
Contexte technique
Cette situation met en lumière la tension entre les protocoles de sécurité de l'IA et les exigences gouvernementales pour les applications militaires. La mention spécifique d'"armes autonomes" et de "surveillance de masse" indique les types d'applications que le Pentagone cherchait à activer en supprimant les contraintes de sécurité de Claude.
Pour les développeurs utilisant Claude, en particulier avec la nouvelle fonctionnalité de contrôle à distance pour Claude Code mentionnée dans la source, cela démontre l'engagement d'Anthropic à maintenir leur cadre de sécurité malgré des pressions financières et politiques importantes.
📖 Lire la source complète : r/ClaudeAI
👀 See Also
La première étape vers l'AGI : combler l'écart avec ClawDBot
Découvrez comment ClawDBot nous rapproche de l'AGI en améliorant les agents d'IA de codage, illustrant une étape cruciale dans l'évolution de l'intelligence artificielle.
ICML 2026 rejette 2 % des articles sur le bureau pour violation de la politique de révision par LLM.
ICML 2026 a rejeté 497 articles (environ 2 % des soumissions) après avoir détecté 795 évaluations (environ 1 % de toutes les évaluations) où les évaluateurs ont violé des accords explicites de ne pas utiliser de LLM. La méthode de détection impliquait le tatouage numérique des PDF avec des instructions LLM cachées.
La nécessité d'une gouvernance relationnelle dans les systèmes multi-agents
Les cadres de gouvernance actuels se concentrent sur l'identité, les permissions et les interrupteurs d'arrêt d'urgence, mais ne parviennent pas à aborder la coordination entre les agents. La recherche montre que les interactions d'agent à agent nécessitent des solutions spécifiquement conçues au-delà des conversations humain-agent simplement mises à l'échelle.
DiLoCo Découplé : Formation Distribuée Résiliente entre Centres de Données avec Faible Bande Passante
Decoupled DiLoCo de Google DeepMind entraîne des LLM à travers des centres de données distants en utilisant un réseau étendu (WAN) de 2 à 5 Gbps, avec des îlots de calcul auto-réparateurs qui isolent les pannes matérielles sans dégrader les performances d'apprentissage automatique.