Filigrane de texte d'Anthropic dans Claude : explication de la stéganographie sémantique

Le plan d'Anthropic pour filigraner tous les textes générés par Claude n'est pas ce qu'ils avaient initialement laissé entendre. Selon une analyse détaillée de John Gruber sur Daring Fireball, la technique est une forme de stéganographie sémantique qui modifie les choix de mots lors de l'inférence, contredisant leur affirmation précédente selon laquelle elle serait « imperceptible » et ne changerait ni le « sens », ni la « qualité », ni la « lisibilité ».

Comment fonctionne réellement le filigrane

La méthode consiste à biaiser la sélection des tokens en utilisant des listes « vertes » et « rouges » :

• À chaque étape de génération de tokens, les mots sont répartis de manière déterministe en listes vertes et rouges, basées sur une clé secrète.
• Le modèle est légèrement plus susceptible de choisir un mot de la liste verte que de la liste rouge (pensez à une pièce biaisée 51-49).
• Cela introduit un motif statistique qui peut être détecté de manière probabiliste, mais cela s'écarte d'une génération de texte véritablement naturelle.

Le document d'assistance original prétendait que le filigrane serait « imperceptible » et n'affecterait pas la lisibilité. Gruber soutient que c'est trompeur, car le processus modifie intrinsèquement les choix de tokens, ce qui peut dégrader la qualité sémantique.

Pour en savoir plus

Gruber signale un essai interactif de James Padolsey, « Comment fonctionne le filigrane des textes IA », comme la meilleure explication de la technique générale. Anthropic a également publié un article de suivi intitulé « Comment fonctionne le filigrane de texte de Claude » qui explique la méthode, bien que Gruber le critique comme euphémistique.

Pour les développeurs utilisant des agents IA, cela compte : le filigrane peut modifier subtilement la sortie, alors testez vos workflows en conséquence.