갈라드리엘: 지속형 클로드 에이전트를 위한 오픈소스 웜 캐시 활용 도구

한 Reddit 사용자가 Galadriel을 오픈소스로 공개했습니다. Galadriel은 지속형 Claude 에이전트를 위한 하네스로, 프롬프트 캐싱을 최적화하여 100K 토큰 컨텍스트에서 87%의 비용 절감과 3초 미만의 지연 시간을 달성합니다. 이 프로젝트는 MIT 라이선스로 출시되었으며, AI 코딩 에이전트에서 흔히 '금붕어 문제'라고 불리는 메모리 및 비용 문제를 해결합니다.

주요 기능

• 3계층 스택 캐싱: 도구 정의, 시스템 프롬프트(CLAUDE.md), 후행 대화 기록에 대해 별도의 캐시 중단점을 설정합니다. 이렇게 하면 여러 컨텍스트 세그먼트에서 캐시 무효화를 방지합니다.
• 통합 MemPalace: 프롬프트 캐시를 깨트리지 않는 벡터 기반 영구 메모리 시스템으로, 영구적인 리콜을 가능하게 합니다.
• 프라이버시 우선: 프라이빗 서브넷용으로 설계되었습니다. 중개인 없음, 메시지 상한 없음, 오직 API 키와 규칙만 있습니다.
• CLAUDE.md 가이드라인 (Karpathy 스타일): 에이전트 비대화(불필요한 컨텍스트 확장)를 방지하는 내장 규칙입니다.

벤치마크

저자에 따르면, OpenClaw/Cursor 워크플로우와 비교 테스트 결과:

• 비용: 보통 100달러 지출 시 10달러 (87% 절감).
• 지연 시간: 100K 토큰 컨텍스트가 11초에서 3초 미만으로 단축 (85% 개선).

대상 사용자

인프라 관리나 코드베이스 유지보수 같은 작업을 위해 지속형 Claude 에이전트를 실행하며, 캐시되지 않은 컨텍스트로 인해 높은 API 비용을 지불하는 개발자.

설정

현재 하네스는 Discord용으로 커스터마이즈되어 있지만(저자의 개인 설정), 캐싱 로직은 일반적입니다. 저장소를 클론하고 필요에 따라 전송 계층을 조정하세요.

GitHub

github.com/avasol/galadriel-public (MIT 라이선스)