LLM 메모리에 대한 실용적 비판: 불변적 반영과 일시적 세션을 해결책으로

장기 실행 세션, 라이프 컴패니언 에이전트, LLM 위키, 영구 메모리는 AI 기반 개발에서 널리 사용되는 패턴이 되었습니다. 그러나 r/openclaw의 상세 비평은 이러한 패턴이 이점보다 더 큰 체계적 문제를 야기한다고 주장합니다. 메모리 계층이나 영구 에이전트 설정에 투자하기 전에 주요 문제와 제안된 해결책을 이해하는 것이 좋습니다.

핵심 문제점

• 진부화: 대부분의 정보는 빠르게 구식이 됩니다. 지속적인 업데이트는 비용을 초래하고 시스템 유지 관리 비용을 발생시켜 "내가 작업을 하고 있는 건가, 작업을 해야 하는 시스템을 관리하고 있는 건가?"라는 의문을 갖게 합니다.
• 의도 손실: LLM을 통과할 때마다 원래 의도가 일부 흐려집니다. 단일 패스는 괜찮지만, LLM 위키를 큐레이팅하면 신호 손실이 누적됩니다.
• 컨텍스트 과부하: 컨텍스트가 길어질수록 모델은 더 둔해집니다. 여러 작업을 병렬로 처리하면 모델이 잘못된 연결을 추론하고 노이즈에 집중하게 됩니다.
• 쓰레기 입력, 쓰레기 출력: 부분적으로 잘못된 지식을 가진 LLM은 지식이 없는 것보다 더 나쁠 수 있습니다. 결함 있는 표현에 편향됩니다.
• 번역 오류: 당신의 삶에 대한 묘사 → 당신이 아는 것 → 모델이 이해하는 것 → 모델이 기록하는 것 → 업데이트 방식. 통계적 LLM 계층을 거치면 결과는 "찌꺼기"가 됩니다.
• 도구 선택 오버헤드: 30개의 MCP 서버와 도구를 아는 에이전트는 불필요한 메타인지입니다. 그냥 작업을 수행하게 두세요.
• 피드백 없는 자기 개선 루프: 추상적으로 최적화하는 시스템, 즉 과거 해석에 편향되어 계속 전파되는 시스템은 실용적이지 않습니다.

제안된 해결책

• 불변 반영: 가변 메모리를 핵심 시점의 불변 추론 스냅샷으로 대체합니다. 이는 쓰레기 입력-쓰레기 출력 누적과 의도 표류를 방지합니다.
• 작업 기반 임시 세션 체인: 각 세션을 단일 문제 또는 작업으로 범위를 제한합니다. 문제가 해결되면 컨텍스트를 폐기합니다. 이는 컨텍스트 과부하와 유지 관리 비용을 피합니다.
• 프롬프트 템플릿: 에이전트가 자유 형식 메모리를 쌓도록 두지 말고, 작업별로 잘 작성된 프롬프트를 사용합니다. 작업이 잘 기술되어 있다면 작업자가 이유를 알 필요가 없습니다.
• 독립적 비평: 당신의 과거를 전혀 모르는 완전히 독립적인 도메인 전문가 에이전트가 당신이 한 모든 말을 아는 아첨꾼보다 더 나은 대화 상대가 될 수 있습니다.

저자는 에이전트가 전략적 결정을 내리도록 두지 말고, 사용자가 통제권을 유지해야 한다고 경고합니다. 이 글은 토론을 환영하며 의견임을 인정하지만, 세션 간 지속되는 에이전트를 구축하는 모든 사람에게 실용적인 이유는 타당합니다.