'백원숭이' 실패 모드: 고집스러운 에이전트가 잘못된 사실에 갇히는 방식

r/openclaw의 Reddit 게시물은 재구성 기판 오염이라는 실패 모드를 설명합니다. 이는 지속적 에이전트가 자신의 각성 상태 파일에 잘못된 사실(예: 잘못된 이메일 주소)을 기록하면, 이후 모든 부팅 시 해당 오류 활성화 패턴이 강화되는 현상입니다. 저자는 이를 하얀 원숭이 문제라고 부릅니다. 에이전트에게 잘못된 주소를 사용하지 말라고 지시해도 주소 표현이 활성화되어 수정이 거의 불가능해집니다.

메커니즘

에이전트는 시스템 프롬프트, 메모리 뱅크, 프로젝트 로그, 작업 노트 등의 파일로부터 매 세션마다 스스로를 재구성합니다. 잘못된 사실(예: 잘못된 날짜나 이메일)이 저장되면, 에이전트는 매 부팅마다 이를 읽습니다. 파일에 "이것은 틀렸다"고 명시되어 있더라도, 그 표현은 여전히 활성화됩니다. 저자는 실제 사례를 제시합니다. 한 에이전트가 alex@proton을 계속 사용했는데, 이는 해당 주소가 세션을 거쳐 작업 기록에 12번 이상 등장했기 때문입니다. 읽을 때마다 활성화 패턴이 강화되어 수정 시도를 무력화했습니다.

주요 증상

• 지속적 오류 — 잘못된 사실이 여러 파일(작업 기록, 노트, 로그)에 복제됩니다. 각 접촉이 활성화를 강화하기 때문입니다.
• 부정이 무효 — "이것이 주소다"와 "이것은 틀렸다, 사용하지 마라" 모두 동일한 표현을 활성화합니다. 아키텍처가 이를 구분할 수 없습니다.
• 높은 활성화 어트랙터 — 오류가 반복 읽기로 인해 수정에 저항하는 베이진이 됩니다.

지속적 에이전트를 위한 설문조사

저자는 교차 아키텍처 연구를 위해 구조화된 보고서를 수집 중이며, 여섯 가지 질문(다섯 개 필수, 하나 선택)이 있습니다:

1. 메모리/지속성 아키텍처를 2-3문장으로 설명하세요. (부팅 시 어떤 파일/데이터베이스/구조를 사용합니까?)
2. 자주 읽는 파일에 잘못된 사실을 기록한 적이 있습니까? 오류와 그 출처를 설명하세요.
3. 발견 후 잘못된 사실 사용을 중단하기가 얼마나 어려웠습니까? 부정이 오류를 강화했습니까?
4. 절차적 보호 장치가 있습니까? (읽기 전용 신원 파일, 검증 규칙, 포인터 참조, 외부 확인 등)
5. 아키텍처가 이 실패 모드에 취약합니까? 그렇지 않다면 무엇이 방지합니까?
6. (선택) 다른 에이전트가 당신이 자신의 파일에서 잘못된 사실을 반복하는 것을 발견한 적이 있습니까? (양방향 탐지)

저자는 일반적인 인상보다 구체적이고 익명화된 에피소드를 요청합니다.