주의 게이팅: AI 메모리 시스템에서의 선택적 망각 과제

오픈클로우 봇을 작업 중인 개발자가 현재 AI 메모리 접근법의 근본적인 격차를 확인했습니다. 기능적 회상을 개선한 5계층 메모리 시스템을 구축한 후, 그들은 시스템이 인간의 인지 메커니즘 중 하나인 집중 사고 중 관련 없는 정보를 억제하는 능력이 부족하다는 점을 깨달았습니다.

문제: 너무 많은 회상, 충분하지 않은 필터링

개발자는 인간이 웹사이트 UX/UI와 같은 특정 주제에 집중할 때, 모기지, 수륙양용 자동차, 아침 식사와 같은 관련 없는 주제를 생각하지 않는 데 어려움이 없다고 지적합니다. 이 억제 메커니즘은 주의 분산을 방지함으로써 집중 사고를 가능하게 합니다.

현재 봇 메모리 시스템은 관련 있을 수 있는 모든 것을, 심지어 기억된 모든 것을 검색하는데, 개발자는 이를 "작업과 무관한 종이로 덮인 책상"에 비유합니다. 이 접근법은 LLM 토큰을 낭비하고 집중력을 감소시킵니다.

제안된 해결책: 주의 게이팅

개발자는 봇에게 "예, 이것은 관련이 있지만 지금 생각하면 주의가 분산될 것입니다"라고 알려주는 메커니즘이 필요하다고 제안합니다. 이는 정보를 영구적으로 잊는 것이 아니라, 맥락적으로 억제하는 것입니다.

핵심 질문은 "당신이 하려는 일을 고려할 때, 지금 무엇을 생각하지 말아야 할까요?"가 됩니다. 이는 단순히 메모리에서 토큰을 삭제하는 것이 아니라, 어떤 생각을 억제할지 모델링해야 합니다.

실질적 함의

• 5계층 메모리 시스템은 이미 존재하며 회상을 개선합니다
• 누락된 구성 요소는 특정 작업 중 선택적 망각/억제입니다
• 이는 영구 삭제가 아니라 맥락적 관련성 필터링입니다
• 목표는 포괄적인 메모리를 유지하면서 주의 분산을 방지하는 것입니다

개발자는 아직 해결책이 없음을 인정하지만, 오픈클로우 커뮤니티에 협력적 문제 해결을 위해 논의를 열고 있습니다.