로컬 AI 에이전트에서 자기 개선 메모리 접근법

지속적 AI 에이전트를 위한 메모리 아키텍처

r/LocalLLaMA의 한 개발자가 세션 간에 실수를 반복하지 않는 AI 에이전트를 만드는 접근 방식을 공유했습니다. 해결하려는 핵심 문제는 모든 세션이 처음부터 시작되고, 컨텍스트 창이 재설정되며, 세션 간에 수정 사항이 손실된다는 점입니다.

메모리 구현

이 시스템은 데이터베이스 대신 마크다운을 진실의 원천으로 사용합니다. MEMORY.md는 사람이 편집할 수 있습니다. vim에서 한 줄을 삭제하면 에이전트는 그것을 잊어버립니다. SQLite와 FAISS(HNSW, 768-dim)는 파생된 캐시로, 언제든지 마크다운에서 재구축할 수 있습니다. 이를 통해 사용자는 git으로 에이전트의 메모리를 버전 관리할 수 있습니다.

에피소드 점수 매기기와 규칙 학습

각 실행은 +1/-1 점수를 받아 에피소드로 저장됩니다. 유사한 미래 작업에서 관련 에피소드가 컨텍스트로 불러와집니다. 동일한 오류 시그니처(도구 이름 + 정규화된 오류의 SHA256)가 7일 내에 두 번 나타나면, 규칙 학습기가 한 줄 예방 규칙을 생성합니다.

규칙은 0.40 신뢰도에서 시작하며, 실제로 미래 프롬프트에 주입되려면 0.60이 필요합니다. 성공하면 신뢰도가 +0.03 증가하고, 실패하면 -0.05 감소합니다. 도움이 되지 않는 규칙은 결국 사라집니다.

신뢰 수준 조정 시스템

사전에 권한 수준을 구성하는 대신, 에이전트는 승인 패턴을 추적합니다. 90% 이상의 비율로 5번 승인되면 자동 승급됩니다. 한 번 되돌리면 다시 강등됩니다. 감사를 위한 섀도우 모드도 있습니다.

작업 분해와 안전성

복잡한 목표는 DAG(방향성 비순환 그래프)가 됩니다. 순환 의존성은 위상 정렬을 통해 감지되며, 실패는 DFS(깊이 우선 탐색)를 통해 종속 항목으로 전파됩니다. 완료 게이트는 18가지 요구 사항(R01-R18)을 확인합니다. 에이전트가 실제로 파일을 읽고, 변경 사항을 작성하고, 결과를 확인하고, 작업 공간에 머물렀는지 여부를 점검합니다.

안전 기능에는 43가지 bash 위험 패턴, 이중 패스 분석(원시 + 디코딩), 실패 시 폐쇄 설계(Guardian 충돌 = 거부), rm -rf /를 방지하기 위한 최소 쓰기 가능 깊이 3이 포함됩니다.

개발자는 규칙에 대한 신뢰도 감소가 적절하게 느껴지는지, 그리고 +0.03/-0.05의 비대칭성이 최적인지에 대한 피드백을 구하고 있습니다. 또한 이 규모(일반적으로 <10k 에피소드)에 대해 HNSW보다 더 나은 대안이 있는지 궁금해하고 있습니다.