Anthropic在Claude中的文本水印技术：语义隐写术解析

Anthropic이 모든 Claude 텍스트 출력에 워터마크를 적용하려는 계획은 처음에 시사한 바와 다릅니다. Daring Fireball의 John Gruber의 상세 분석에 따르면, 이 기술은 추론 시점에 단어 선택을 변경하는 일종의 의미론적 스테가노그래피로, '눈에 띄지 않을 것'이며 '의미, 품질, 가독성'을 바꾸지 않을 것이라는 초기 주장과 모순됩니다.

워터마크가 실제로 작동하는 방식

이 방법은 '그린' 및 '레드' 목록을 사용하여 토큰 선택을 편향시킵니다.

• 각 토큰 생성 단계에서 단어는 비밀 키에 따라 결정적으로 그린 목록과 레드 목록으로 분할됩니다.
• 모델은 레드 목록의 단어보다 그린 목록의 단어를 선택할 가능성이 약간 더 높습니다(51-49의 편향된 동전과 같음).
• 이는 확률적으로 감지할 수 있는 통계적 패턴을 도입하지만, 진정한 자연스러운 텍스트 생성에서 벗어납니다.

원래 지원 문서는 워터마크가 '눈에 띄지 않을 것'이며 가독성에 영향을 미치지 않을 것이라고 주장했지만, Gruber는 이 과정이 필연적으로 토큰 선택을 수정하여 의미 품질을 저하시킬 수 있기 때문에 오해의 소지가 있다고 주장합니다.

더 알아보려면

Gruber는 James Padolsey의 인터랙티브 에세이 'AI 텍스트 워터마킹 작동 방식'을 이 일반 기법에 대한 최고의 설명으로 지적합니다. Anthropic은 또한 'Claude의 텍스트 워터마크 작동 방식'이라는 후속 기사를 게시하여 방법을 설명했지만, Gruber는 이를 완곡한 표현이라고 비판합니다.

AI 에이전트를 사용하는 개발자에게 이는 중요합니다. 워터마킹은 출력을 미묘하게 변경할 수 있으므로 워크플로우를 그에 따라 테스트하세요.