La marca de agua de texto de Anthropic en Claude: explicación de la esteganografía semántica

El plan de Anthropic de marcar con agua todo el texto generado por Claude no es lo que inicialmente implicaban. Según un análisis detallado de John Gruber en Daring Fireball, la técnica es una forma de esteganografía semántica que altera la elección de palabras en el momento de la inferencia, lo que contradice su afirmación anterior de que sería 'imperceptible' y no cambiaría el 'significado, la calidad o la legibilidad'.

Cómo funciona realmente la marca de agua

El método consiste en sesgar la selección de tokens utilizando listas 'verde' y 'roja':

• En cada paso de generación de tokens, las palabras se dividen en listas verde y roja de forma determinista, basándose en una clave secreta.
• El modelo tiene una probabilidad ligeramente mayor de elegir una palabra de la lista verde que de la roja (piensa en una moneda sesgada 51-49).
• Esto introduce un patrón estadístico que puede detectarse probabilísticamente, pero se desvía de la generación de texto verdaderamente natural.

El documento de soporte original afirmaba que la marca de agua sería 'imperceptible' y no afectaría a la legibilidad; Gruber argumenta que esto es engañoso porque el proceso modifica inherentemente las elecciones de tokens, lo que puede degradar la calidad semántica.

Dónde aprender más

Gruber señala un ensayo interactivo de James Padolsey, 'Cómo funciona la marca de agua de texto de IA', como la mejor explicación de la técnica general. Anthropic también publicó un artículo de seguimiento titulado 'Cómo funciona la marca de agua de texto de Claude' que explica el método, aunque Gruber lo critica por eufemístico.

Para los desarrolladores que utilizan agentes de IA, esto importa: la marca de agua puede cambiar sutilmente la salida, así que prueba tus flujos de trabajo en consecuencia.