Anthropic enthüllt industrielle Claude-KI-Datenextraktion durch chinesische Labore

Anthropic hat Details über einen groß angelegten Datenextraktionsvorgang gegen Claude AI öffentlich bekannt gegeben. Laut einem Reddit-Beitrag, der die Situation analysiert, handelte es sich dabei nicht um isolierte Forschungsaktivitäten, sondern um einen industriellen Einsatz unter Beteiligung mehrerer chinesischer KI-Unternehmen.

Das Ausmaß des Vorfalls

Der Vorgang umfasste drei spezifische Akteure: DeepSeek, Moonshot AI und MiniMax. Diese Labore erstellten über 24.000 betrügerische Konten, um auf die API von Claude zuzugreifen. Über diese Konten griffen sie mehr als 16 Millionen Austausche von Claude ab, um ihre eigenen Modelle zu trainieren.

Unterschied zwischen legitimer und unrechtmäßiger Destillation

Das Quellenmaterial klärt den Unterschied zwischen Standardpraktiken der Branche und dem, was hier geschah:

• Standarddestillation: Verwendung eines großen Modells, um eine kleinere, effizientere Version für kommerzielle Kunden zu trainieren
• Unrechtmäßige Destillation: Beschrieben als "Fähigkeitswäsche" – das Abzweigen von Sicherheitsvorkehrungen und Logikstrukturen aus amerikanischen Modellen und deren direkte Einspeisung in ausländische militärische, nachrichtendienstliche und Überwachungssysteme

Weitreichende Implikationen

Anthropic warnt davor, dass diese Angriffe immer ausgefeilter und häufiger werden. Das "Ehrensystem" der API-Nutzung scheint unzureichend, um solche Vorgänge zu verhindern. Das Unternehmen fordert koordinierte Abwehrmaßnahmen zwischen den großen KI-Akteuren und politischen Entscheidungsträgern.

Die Situation verdeutlicht die Anfälligkeit von Modellgewichten, sobald sie über API-Endpunkte zugänglich sind, selbst bei bestehenden Sicherheitsvorkehrungen.