Wie Claudes Text-Wasserzeichen funktioniert

Zukünftige Claude-Modelle werden ein Wasserzeichen in generierten Texten einbetten, um festzustellen, ob der Text KI-generiert wurde, und um dem EU AI Act zu entsprechen. Die Methode, die auf SynthID-Text basiert, beeinträchtigt weder die Ausgabequalität noch die Lesbarkeit.

So funktioniert es

LLMs wählen Wörter einzeln aus und treffen eine Auswahl unter Kandidaten. Bei Entscheidungen mit geringem Risiko (z. B. "bedeckt" vs. "grau") ist die Auswahl zufällig. Das Wasserzeichen verwendet einen Schlüssel plus vorhergehende Wörter, um diese Zufälligkeit zu beeinflussen und ein erkennbares Muster zu erzeugen. Detektoren mit dem Schlüssel können prüfen, ob die Wortsequenz dem schlüsselbasierten Muster entspricht.

Auswirkung auf die Ausgabe

Anthropic berichtet von keiner Qualitätsänderung, und das SynthID-Text-Papier von Google DeepMind fand keine statistisch signifikanten Unterschiede in den Benutzerbewertungen. Menschliche Bewerter sahen keinen Qualitätsunterschied. Keine versteckten Zeichen, keine zusätzlichen Tokens, keine Zusatzkosten.

Konformität

Implementiert, um EU-Vorschriften zu erfüllen, die von KI-Anbietern verlangen, KI-generierte Inhalte zu kennzeichnen. Andere große Anbieter haben denselben Verhaltenskodex unterzeichnet.