Comment fonctionne le filigrane de texte de Claude

Les futurs modèles Claude intégreront un filigrane dans le texte généré afin de déterminer si le texte a été généré par IA, conformément à la loi européenne sur l'IA. Cette méthode, basée sur SynthID-Text, n'affecte ni la qualité ni la lisibilité de la sortie.

Comment ça marche

Les LLM choisissent les mots un par un, en sélectionnant parmi les candidats. Pour les choix à faible enjeu (par exemple, « couvert » vs « gris »), la sélection est aléatoire. Le filigrane utilise une clé et les mots précédents pour générer cette aléatoire, créant un motif détectable. Les détecteurs disposant de la clé peuvent vérifier si la séquence de mots correspond au motif basé sur la clé.

Impact sur la sortie

Anthropic ne signale aucun changement de qualité, et le document SynthID-Text de Google DeepMind n'a trouvé aucune différence statistiquement significative dans les évaluations des utilisateurs. Les évaluateurs humains n'ont vu aucune différence de qualité. Pas de caractères cachés, pas de jetons ajoutés, pas de coût supplémentaire.

Conformité

Mis en œuvre pour répondre aux réglementations de l'UE exigeant que les fournisseurs d'IA marquent le contenu généré par IA. D'autres grands fournisseurs ont signé le même code de conduite.