AIs kaputte Ökonomie: Das Chaos von Anthropics Mythos/Fabel-Exportverbot

Ed Zitrons AI's Brokenomics behandelt das chaotische Nachspiel, nachdem Anthropic sein angeblich 'zu gefährliches' Mythos-Modell als abgesicherte Version namens Fable veröffentlichte – und nachdem Forscher es innerhalb von Tagen knackten, mit US-Exportkontrollen belegt wurde. Hier ist, was passiert ist, basierend auf dem Artikel.

Die Zeitleiste

• Anthropic kündigte Claude Mythos an, ein LLM, das als 'zu mächtig für eine Veröffentlichung' beschrieben wurde. Veröffentlicht am 2. Juni an 150 Organisationen in 15 Ländern.
• Am 9. Juni wurde Mythos mit Schutzmaßnahmen unter dem Namen Fable veröffentlicht.
• Amazon-Forscher knackten Fable innerhalb von Tagen, was Amazon-CEO Andy Jassy und andere ungenannte Unternehmen dazu veranlasste, es dem US-Handelsministerium wegen nationaler Sicherheitsrisiken zu melden.
• Die Trump-Administration verhängte Exportkontrollen, die Nicht-US-Bürgern den Zugang zu Mythos und Fable untersagten, und gab Anthropic 90 Minuten Zeit, die Modelle zurückzurollen.

Wichtige technische Details

• Fable blockiert biologische Waffen und Cybersicherheitsthemen, aber der Jailbreak umging diese Schutzmaßnahmen.
• Anthropic behauptete, es sei kein 'universeller Jailbreak' gefunden worden – nur spezifische Umgehungen. Sie erklärten, ihre Sicherheitsvorkehrungen seien so stark, dass 'viele Benutzer sich beschwert haben, dass sie übermäßig breit seien.'
• Der anonyme Forscher Pliny The Liberator brach ebenfalls die Sicherheitsprotokolle des Modells.
• Davi Ottenheimer veröffentlichte eine Kritik an Mythos' Systemkarte und argumentierte, dass das Modell lediglich ein größeres LLM mit höheren Benchmarks in Tests sei, die für LLMs entwickelt wurden – nicht rekursive Selbstverbesserung oder AGI.

Folgen

Anthropic hat leitende technische Mitarbeiter nach Washington D.C. entsandt, um mit der Trump-Administration zu verhandeln, nachdem virtuelle Treffen gescheitert waren. Die Exportkontrollanordnung verbot allen Nicht-US-Bürgern (sowohl innerhalb als auch außerhalb der USA) den Zugang zu den Modellen und deaktivierte sie damit weltweit.

Der Artikel legt nahe, dass Anthropic jahrelang KI-Risiken hochgespielt hat, um Organisationen dazu zu bringen, für Premium-Zugang zu zahlen, und dieser regulatorische Rückschlag eine natürliche Folge dieser Strategie ist.