Anthropics Text-Wasserzeichen in Claude: Semantische Steganografie erklärt

Anthropics Plan, alle Claude-Textausgaben mit einem Wasserzeichen zu versehen, ist nicht das, was sie zunächst andeuteten. Laut einer detaillierten Analyse von John Gruber bei Daring Fireball handelt es sich um eine Form semantischer Steganografie, die die Wortwahl zur Inferenzzeit verändert – was ihrer früheren Behauptung widerspricht, es sei „unmerklich“ und ändere weder „Bedeutung, Qualität noch Lesbarkeit“.

So funktioniert das Wasserzeichen tatsächlich

Die Methode beeinflusst die Token-Auswahl mithilfe von „grünen“ und „roten“ Listen:

• Bei jedem Schritt der Token-Erzeugung werden Wörter deterministisch in grüne und rote Listen aufgeteilt, basierend auf einem geheimen Schlüssel.
• Das Modell wählt mit höherer Wahrscheinlichkeit ein Wort aus der grünen Liste als aus der roten Liste (denken Sie an eine voreingenommene 51-49-Münze).
• Dies führt zu einem statistischen Muster, das probabilistisch erkannt werden kann, weicht aber von wirklich natürlicher Textgenerierung ab.

Das ursprüngliche Support-Dokument behauptete, das Wasserzeichen sei „unmerklich“ und beeinträchtige die Lesbarkeit nicht – Gruber argumentiert, dass dies irreführend ist, da der Prozess die Token-Auswahl verändert, was die semantische Qualität beeinträchtigen kann.

Wo Sie mehr erfahren können

Gruber verweist auf einen interaktiven Aufsatz von James Padolsey, „How AI Text Watermarking Works“, als beste Erklärung der allgemeinen Technik. Anthropic veröffentlichte außerdem einen Folgeartikel mit dem Titel „How Claude's Text Watermark Works“, der die Methode erklärt, obwohl Gruber ihn als beschönigend kritisiert.

Für Entwickler, die KI-Agenten nutzen, ist dies relevant: Wasserzeichen können die Ausgabe subtil verändern, testen Sie also Ihre Arbeitsabläufe entsprechend.