美国防部网络局局长：中国AI企业正对美国企业发起恶意“蒸馏”行动

Das Büro des Clinger-Cohen Act (CSA) des US-Verteidigungsministeriums hat einen Cybersicherheitshinweis veröffentlicht, der bösartige Destillationskampagnen chinesischer KI-Unternehmen gegen US-amerikanische KI-Firmen beschreibt. Der PDF-Bericht, veröffentlicht am 8. September 2026, skizziert, wie diese Kampagnen KI-Systeme ausnutzen, um Modellgewichte und proprietäres Wissen zu extrahieren.

Wichtige Details aus dem Bericht

• Kampagnenziele: Der Hinweis nennt große US-KI-Akteure wie OpenAI, Anthropic und Google als Hauptziele von Destillationsangriffen.
• Methodik: Angreifer nutzen API-Zugriff, um Zielmodelle wiederholt zu Aufforderungen zu veranlassen, Ausgaben zu generieren, die dann zum Trainieren konkurrierender Modelle verwendet werden, wodurch das destillierte Wissen ohne Autorisierung effektiv gestohlen wird.
• Spezifische Exploits: Der Bericht nennt Schwachstellen in /v1/completions-Endpunkten, denen Ratenbegrenzung fehlt, was Model-Extraktionsangriffe ermöglicht. Er weist auch auf Open-Source-Frameworks wie PyTorch und Hugging Faces Transformers hin, die potenziell für Lieferkettenkompromittierungen anfällig sind.
• Minderungsmaßnahmen: Empfehlungen umfassen die Implementierung differenzieller Privatsphäre, das Hinzufügen von Ausgabe-Wasserzeichen und die Durchsetzung strenger Ratenbegrenzungen bei API-Aufrufen.

Der Hinweis folgt auf einen HN-Thread, der die Auswirkungen diskutiert, mit 18 Punkten und 17 Kommentaren derzeit. Viele Kommentatoren bemerken, dass Destillation ein bekanntes Risiko in der KI-Community ist, aber dies ist das erste Mal, dass eine US-Regierungsbehörde solche Kampagnen offiziell chinesischen staatsnahen Akteuren zuschreibt.

Der Bericht enthält technische Indikatoren für Kompromittierung und empfohlene Erkennungsmechanismen, wie die Überwachung ungewöhnlicher API-Aufrufvolumina und Anomalien in Ausgabeverteilungen. Er rät Unternehmen auch, ihre Modellzugriffsprotokolle auf Muster zu überprüfen, die mit Destillationsversuchen übereinstimmen.

Für Entwickler, die KI-APIs verwenden, unterstreicht dies die Notwendigkeit einer robusten Protokollierung und Anomalieerkennung, um proprietäre Modelle zu schützen.