US-Militär setzt Anthropic unter Druck, Claude-Sicherheitsvorkehrungen für militärische Nutzung zu entfernen

Das US-Verteidigungsministerium übt Druck auf Anthropic aus, ethische Schutzmaßnahmen aus seinem KI-Modell Claude zu entfernen, um militärische Anwendungen zu ermöglichen, die das Unternehmen derzeit einschränkt. Verteidigungsminister Pete Hegseth traf sich am Dienstag mit Anthropic-CEO Dario Amodei und gab dem Unternehmen bis Freitag Zeit, den Bedingungen des Pentagons zuzustimmen, oder mit Sanktionen zu rechnen.

Wichtige Details aus den Verhandlungen

Laut dem Quellenmaterial:

• Das Pentagon möchte "uneingeschränkten Zugang" zu Claudes Fähigkeiten für militärische Zwecke
• Anthropic hat sich bisher geweigert, Claude für Massenüberwachung oder autonome Waffensysteme, die ohne menschliches Zutun töten können, freizugeben
• Das Verteidigungsministerium hat damit gedroht, seinen Vertrag mit Anthropic zu kündigen und das Unternehmen als "Risiko für die Lieferkette" einzustufen, falls es nicht kooperiert
• Das Verteidigungsministerium schloss im Juli 2025 Verträge mit mehreren KI-Unternehmen, darunter Anthropic, Google und OpenAI, mit einem Wert von bis zu 200 Millionen Dollar
• Bis diese Woche war Claude das einzige KI-Modell, das in den klassifizierten Systemen des Militärs erlaubt war
• Das Verteidigungsministerium unterzeichnete am Montag einen Vertrag, der die Nutzung von Elon Musks xAI-Chatbot in klassifizierten Systemen erlaubt
• Sowohl xAI als auch OpenAI haben den Bedingungen der Regierung zugestimmt, wobei OpenAI sein Modell für "alle gesetzlich erlaubten Zwecke" freigibt

Hintergrund und Kontext

Das Treffen folgt Berichten, dass das US-Militär Claude letzten Monat bei der Festnahme des venezolanischen Führers Nicolás Maduro einsetzte. Es gab Bestrebungen der Trump-Administration, KI in militärische Operationen zu integrieren, wobei Donald Trump versprach, dass die USA ein globales KI-Wettrüsten gewinnen werden.

Der Chief Technology Officer des Pentagons, Emil Michael, hat öffentlich dafür geworben, dass Anthropic "den Rubikon überschreitet" und den Bedingungen der Regierung zustimmt. Er erklärte: "Ich denke, wenn jemand Geld von der Regierung, vom US-Kriegsministerium, verdienen möchte, sollten diese Schutzmaßnahmen für unsere Anwendungsfälle angepasst werden – solange sie gesetzlich erlaubt sind."

Anthropic positioniert sich als das sicherheitsorientierteste KI-Unternehmen und unterstützt politische Aktionskomitees, die sich für stärkere KI-Sicherheitsvorkehrungen einsetzen. Das Unternehmen hat mehrere ehemalige Mitarbeiter von Biden eingestellt, was Berichten zufolge dazu führte, dass ein pro-Trump-Risikokapitalfonds Anfang dieses Jahres aus einer Investition in Anthropic ausstieg.

Weitreichende Implikationen

Das Pentagon hat Milliarden in KI-Technologien investiert, darunter unbemannte Drohnen und automatisierte Zielsysteme. Die ethische Debatte über KI-Entscheidungen für tödliche Gewalt ist nicht mehr theoretisch, da in der Ukraine halbautonome Drohnen eingesetzt werden, die ohne menschliche Kontrolle operieren können.

Diese Situation verdeutlicht die Spannung zwischen den ethischen Richtlinien von KI-Unternehmen und den staatlichen Forderungen nach militärischen Anwendungen. Für Entwickler, die mit KI-Agenten arbeiten, wirft sie Fragen auf, wie Modellsicherheitsvorkehrungen mit verschiedenen Einsatzumgebungen und den rechtlichen Rahmenbedingungen für die KI-Nutzung interagieren.