アンソロピックのClaudeにおけるテキスト透かし：意味ステガノグラフィーの解説

Anthropicが全てのClaudeテキスト出力に透かしを入れる計画は、当初の示唆とは異なります。Daring FireballのJohn Gruber氏による詳細な分析によると、この技術は推論時に単語選択を変更する意味的ステガノグラフィーの一種であり、彼らの初期の主張である「知覚不能」で「意味、品質、読みやすさを変えない」という点に矛盾します。

透かしの実際の仕組み

この方法は、「緑」と「赤」のリストを使ってトークン選択をバイアスします：

• 各トークン生成ステップで、秘密鍵に基づいて単語が決定的に緑と赤のリストに分割されます。
• モデルは赤リストの単語よりも緑リストの単語を選ぶ可能性がわずかに高くなります（偏った51-49コインを考えてください）。
• これにより、確率的に検出できる統計的パターンが導入されますが、真に自然なテキスト生成から逸脱します。

元のサポート文書では、透かしは「知覚不能」で読みやすさに影響しないと主張していましたが、Gruber氏はこのプロセスが本質的にトークン選択を変更し、意味的品質を低下させる可能性があるため、これは誤解を招くと論じています。

詳細情報

Gruber氏は、James Padolsey氏によるインタラクティブなエッセイ「AIテキスト透かしの仕組み」が、一般的な技術の最良の説明であると指摘しています。Anthropicも「Claudeのテキスト透かしの仕組み」というフォローアップ記事を公開しており、この方法を説明していますが、Gruber氏はそれを婉曲的だと批判しています。

AIエージェントを使用する開発者にとって、これは重要です：透かしは出力を微妙に変える可能性があるため、ワークフローを適宜テストしてください。