Anthropic streicht wichtige Sicherheitsverpflichtung aus Responsible-Scaling-Policy

Anthropic hat die Kernverpflichtung aus seiner Flaggschiff-Richtlinie für verantwortungsvolle Skalierung (Responsible Scaling Policy, RSP) entfernt, wie ein TIME-Bericht darlegt. Das Unternehmen hatte sich 2023 verpflichtet, niemals ein KI-System zu trainieren, es sei denn, es könnte im Voraus garantieren, dass seine Sicherheitsmaßnahmen angemessen seien.

Details zur Richtlinienänderung

Das Unternehmen verwirft das Versprechen, keine KI-Modelle zu veröffentlichen, wenn Anthropic nicht im Voraus eine ordnungsgemäße Risikominderung garantieren kann. Dies war die zentrale Säule ihrer Responsible Scaling Policy, die Unternehmensführer jahrelang als Beleg dafür gepriesen hatten, dass sie Marktanreizen widerstehen würden, potenziell gefährliche Technologie zu überstürzen.

Gründe für die Änderung

Anthropics Chief Science Officer Jared Kaplan sagte gegenüber TIME: "Wir hatten das Gefühl, dass es niemandem wirklich helfen würde, wenn wir das Training von KI-Modellen einstellen. Wir empfanden es angesichts der rasanten Entwicklung der KI nicht wirklich als sinnvoll, einseitige Verpflichtungen einzugehen … wenn die Konkurrenz voranstürmt."

Das Unternehmen hat sich als das sicherheitsbewussteste der führenden KI-Forschungslabore positioniert, was diese Richtlinienänderung für Entwickler, die KI-Sicherheitspraktiken verfolgen, bedeutsam macht. Die Entscheidung markiert eine Abkehr von ihrer früheren Haltung, Sicherheitsgarantien über die Entwicklungsgeschwindigkeit zu stellen.