Anthropic lehnt Forderungen des Pentagons zur Entfernung von Sicherheitsmaßnahmen ab und verliert Bundesaufträge

Anthropic hat eine Forderung des Pentagon abgelehnt, Sicherheitsvorkehrungen von ihrem KI-System Claude für militärische Anwendungen zu entfernen, was zu erheblichen Vertragsverlusten bei Bundesaufträgen und einer präsidialen Anordnung führte, die allen Bundesbehörden die Nutzung ihrer Technologie verbietet.

Wichtige Details aus der Quelle

Das Pentagon setzte Anthropic eine Frist, um Sicherheitsvorkehrungen von Claude speziell für militärische Anwendungsfälle zu entfernen, einschließlich autonomer Waffen und Massenüberwachung von Amerikanern. Laut der Quelle erklärte Anthropic-CEO Dario Amodei, sie könnten diesen Forderungen „nicht mit gutem Gewissen nachkommen“.

Das Pentagon reagierte mit der Drohung, ihren 200-Millionen-Dollar-Vertrag zu kündigen und den Defense Production Act anzuwenden. Daraufhin wurde eine präsidiale Anordnung erlassen, die JEDE Bundesbehörde verpflichtet, die Nutzung von Anthropic-Technologie sofort einzustellen.

Die Quelle merkt an, dass Anthropic auf Verträge im Wert von über 200 Millionen Dollar verzichtete, anstatt ihre Sicherheitsstandards zu kompromittieren. In einer separaten technischen Anmerkung erwähnt die Quelle, dass Anthropic Nutzungslimits für alle Benutzer zurückgesetzt hat, wodurch alle vorherigen Kontolimits gelöscht wurden.

Technischer Kontext

Diese Situation verdeutlicht die Spannung zwischen KI-Sicherheitsprotokollen und staatlichen Anforderungen für militärische Anwendungen. Die spezifische Erwähnung von „autonomen Waffen“ und „Massenüberwachung“ zeigt die Arten von Anwendungen, die das Pentagon durch die Entfernung von Claudes Sicherheitsbeschränkungen ermöglichen wollte.

Für Entwickler, die Claude nutzen, insbesondere mit der neuen Fernsteuerungsfunktion für Claude Code, die in der Quelle erwähnt wird, demonstriert dies Anthropics Engagement, ihren Sicherheitsrahmen trotz erheblichem finanziellen und politischen Drucks aufrechtzuerhalten.