Anthropic enthüllt industrielle Claude-KI-Datenextraktion durch chinesische Labore
Anthropic hat Details über einen groß angelegten Datenextraktionsvorgang gegen Claude AI öffentlich bekannt gegeben. Laut einem Reddit-Beitrag, der die Situation analysiert, handelte es sich dabei nicht um isolierte Forschungsaktivitäten, sondern um einen industriellen Einsatz unter Beteiligung mehrerer chinesischer KI-Unternehmen.
Das Ausmaß des Vorfalls
Der Vorgang umfasste drei spezifische Akteure: DeepSeek, Moonshot AI und MiniMax. Diese Labore erstellten über 24.000 betrügerische Konten, um auf die API von Claude zuzugreifen. Über diese Konten griffen sie mehr als 16 Millionen Austausche von Claude ab, um ihre eigenen Modelle zu trainieren.
Unterschied zwischen legitimer und unrechtmäßiger Destillation
Das Quellenmaterial klärt den Unterschied zwischen Standardpraktiken der Branche und dem, was hier geschah:
- Standarddestillation: Verwendung eines großen Modells, um eine kleinere, effizientere Version für kommerzielle Kunden zu trainieren
- Unrechtmäßige Destillation: Beschrieben als "Fähigkeitswäsche" – das Abzweigen von Sicherheitsvorkehrungen und Logikstrukturen aus amerikanischen Modellen und deren direkte Einspeisung in ausländische militärische, nachrichtendienstliche und Überwachungssysteme
Weitreichende Implikationen
Anthropic warnt davor, dass diese Angriffe immer ausgefeilter und häufiger werden. Das "Ehrensystem" der API-Nutzung scheint unzureichend, um solche Vorgänge zu verhindern. Das Unternehmen fordert koordinierte Abwehrmaßnahmen zwischen den großen KI-Akteuren und politischen Entscheidungsträgern.
Die Situation verdeutlicht die Anfälligkeit von Modellgewichten, sobald sie über API-Endpunkte zugänglich sind, selbst bei bestehenden Sicherheitsvorkehrungen.
📖 Read the full source: r/ClaudeAI
👀 Siehe auch
Israels gefälschter Think Tank zielt mit SEO-Vergiftung auf KI-Chatbots ab
Israel hat eine gefälschte Denkfabrik, das Hanover Institute, gegründet, die über 100 KI-optimierte Artikel veröffentlichte, um Chatbots wie Claude und Gemini zu beeinflussen. Die Artikel imitieren glaubwürdige Think-Tank-Berichte mit Zitaten, um KI-Antworten zum Israel-Palästina-Konflikt zu beeinflussen.
Malware: Ein Schwachstellen-Scanner für SKILL.md-Dateien, erstellt mit Claude Code
Ein Entwickler hat Malwar veröffentlicht, ein kostenloses Tool, das SKILL.md-Dateien auf bösartige Anweisungen überprüft. Es verwendet eine 4-stufige Pipeline mit einer Regel-Engine, einem URL-Crawler, einer LLM-Analyse und Threat Intelligence. Das Tool wurde vollständig mit Claude Code erstellt, nachdem der Entwickler besorgniserregende Muster wie Base64-Blobs und Anweisungen, die curl-Ausgaben an bash weiterleiten, in bestehenden Skills gefunden hatte.
Überprüfen Sie Ihre Claude Code-Berechtigungen: Ein praktischer Leitfaden zur Eingrenzung des Tool-Zugriffs
Ein Reddit-Nutzer prüfte seine Claude Code-Einrichtung und stellte fest, dass Tools übermäßige Berechtigungen hatten, die .env-Dateien und Produktionskonfigurationen bearbeiten konnten. Praktische Schritte: Überprüfung von globalen vs. projektspezifischen Tools, Prüfung der CLAUDE.md auf Geheimnisse und Einschränkung des Dateizugriffs pro Verzeichnis.
Proxy-Schicht-Isolierung für lokale Agenten-API-Schlüsselsicherheit
Ein Entwickler teilt einen Ansatz zur API-Schlüssel-Isolierung in lokalen Agenten-Setups mithilfe eines Rust-Proxys, der Platzhalter-Tokens gegen echte Zugangsdaten austauscht, um die Offenlegung im Agenten-Speicher, in Protokollen, Kontextfenstern und Tool-Umgebungen zu verhindern.