Google unterzeichnet geheimen Pentagon-Vertrag für 'jede rechtmäßige' Nutzung von KI

Laut The Information hat Google einen Geheimvertrag mit dem US-Verteidigungsministerium (DoD) unterzeichnet, der es dem Militär erlaubt, seine KI-Modelle für „jeden rechtmäßigen Regierungszweck“ zu nutzen. Die Vereinbarung kommt einen Tag, nachdem Google-Mitarbeiter von CEO Sundar Pichai gefordert hatten, den Pentagon-KI-Einsatz aus Sorge vor unmenschlichen Anwendungen zu blockieren.

Wichtige Vertragsbedingungen

• Kein Vetorecht: Der Vertrag stellt klar, dass Google „kein Recht hat, operative Entscheidungen der Regierung zu kontrollieren oder zu vetoieren“, was bedeutet, dass Einschränkungen bei Bewaffnung und Überwachung faktisch unverbindliche Versprechen und keine rechtlichen Verpflichtungen sind.
• Anpassungen auf Anfrage: Google muss bei der Änderung seiner KI-Sicherheitseinstellungen und Filter auf Anfrage der Regierung behilflich sein.
• Umfang: KI-Systeme sollten nicht für Massenüberwachung im Inland oder autonome Waffen „ohne angemessene menschliche Aufsicht und Kontrolle“ verwendet werden – die Durchsetzung beruht jedoch auf gegenseitigem Goodwill.

Kontext

Google reiht sich damit neben OpenAI und xAI ein, die ebenfalls klassifizierte KI-Verträge mit der US-Regierung abgeschlossen haben. Anthropic wurde zuvor vom Pentagon auf eine schwarze Liste gesetzt, weil es sich weigerte, Sicherheitsvorkehrungen für Waffen und Überwachung zu entfernen. Ein Google-Sprecher erklärte: „Wir sind stolz darauf, Teil eines breiten Konsortiums führender KI-Labore sowie Technologie- und Cloud-Unternehmen zu sein, die KI-Dienstleistungen und Infrastruktur zur Unterstützung der nationalen Sicherheit bereitstellen.“

Auswirkungen für Entwickler

Entwickler, die Googles KI-Modelle nutzen (z. B. über Vertex AI oder Cloud AI), sollten sich bewusst sein, dass Sicherheitsfilter für Regierungskunden außer Kraft gesetzt werden können. Dies könnte das Vertrauen in Googles KI-Governance beeinträchtigen, insbesondere für diejenigen, die auf konsistente Sicherheitsvorkehrungen angewiesen sind. Erwarten Sie eine verstärkte Prüfung, wie KI-Agenten im Verteidigungskontext eingesetzt werden.