Anthropic berichtet über industrielle Maßstäbe erreichende Destillationsangriffe chinesischer KI-Labore auf Claude

Industrieller Modellentzug im großen Stil

Anthropic hat Ergebnisse veröffentlicht, die koordinierte Destillationsangriffe auf Claude durch drei chinesische KI-Labore detailliert beschreiben. Die Angriffe umfassten die Erstellung betrügerischer Konten in großem Umfang, um Claudes Denkfähigkeiten durch massive API-Interaktionen zu extrahieren.

Wichtige Angriffsdetails aus Anthropics Bericht

• DeepSeek, Moonshot und MiniMax erstellten über 24.000 betrügerische Konten
• Die Gesamtzahl der Austausche mit Claude überstieg 16 Millionen
• MiniMax allein feuerte 13 Millionen Anfragen ab
• Als Anthropic ein neues Modell veröffentlichte, leitete MiniMax fast die Hälfte seines Datenverkehrs innerhalb von 24 Stunden um
• DeepSeek zielte speziell auf Gedankenketten und zensursichere Antworten ab
• Die Angriffe wurden im Laufe der Zeit ausgefeilter, als die Labore ihre Methoden anpassten

Sicherheitsimplikationen für KI-Entwickler

Dieser Vorfall verdeutlicht Schwachstellen in der KI-Modellsicherheit, wenn milliardenschwere Labore systematisch versuchen, proprietäre Fähigkeiten zu extrahieren. Das Ausmaß und die Beharrlichkeit dieser Angriffe – die mehrere Organisationen umfassen und sich an neue Modellveröffentlichungen anpassen – deuten darauf hin, dass dies eher eine anhaltende Bedrohung darstellt als isolierte Vorfälle.

Die verwendeten Methoden (Erstellung betrügerischer Konten, gezielte Abfragen nach bestimmten Fähigkeiten, schnelle Anpassung an neue Modellversionen) könnten potenziell gegen andere KI-Systeme repliziert werden, was Fragen zur Sicherheit von KI-Tools von Drittanbietern aufwirft, die Entwickler in ihre Arbeitsabläufe integrieren.