Anthropics Claude-Mythos: Angstmacherei oder reale Gefahr?

Anthropic kündigte kürzlich Claude Mythos an, ein Modell, das laut eigenen Angaben menschliche Experten bei der Suche nach Cybersicherheitsfehlern übertrifft. In einem Blogbeitrag Anfang April warnte das Unternehmen vor schwerwiegenden Folgen für Wirtschaft, öffentliche Sicherheit und nationale Sicherheit, wenn ähnliche Technologien in falsche Hände gerieten. Einige Beobachter sagten sogar einen massenhaften Austausch von Geräten voraus, von Laptops bis hin zu WLAN-Mikrowellen.

Doch Sicherheitsexperten bezweifeln die Behauptungen, und Kritiker sehen ein Muster: KI-Unternehmen verstärken existenzielle Risikoerzählungen, um von realen Schäden abzulenken, Aktienkurse in die Höhe zu treiben und sich selbst als die einzig verantwortungsvollen Verwalter zu positionieren. Shannon Vallor, Ethikprofessorin an der University of Edinburgh, argumentiert, dass die Darstellung von KI als „übernatürlich gefährlich“ Regulierungsbehörden ohnmächtig macht – und nur die Unternehmen selbst als Hüter übrig bleiben.

Das ist nicht neu. Im Jahr 2019 half Dario Amodei, CEO von Anthropic, damals bei OpenAI, GPT-2 als zu gefährlich für eine Veröffentlichung zu erklären, mit Verweis auf böswillige Anwendungen. Monate später veröffentlichte OpenAI es trotzdem, und Sam Altman bezeichnete die Befürchtungen später als „fehl am Platz“. Altman kritisierte kürzlich Anthropics „angstbasierte Vermarktung“, doch sein eigenes Drehbuch enthielt ähnliche Warnungen, dass KI „wahrscheinlich zum Ende der Welt führen wird, aber in der Zwischenzeit wird es großartige Unternehmen geben.“

Ein Sprecher von Anthropic lehnte es ab, auf die Punkte des Artikels einzugehen, teilte aber unterstützende Blogbeiträge anderer Organisationen. Das Muster deutet darauf hin, dass Angst eine bewusste Strategie ist – unabhängig davon, ob Mythos so gefährlich ist wie behauptet.