Galadriel: Открытый инструмент для поддержания "теплого" кэша для постоянных агентов Claude

Пользователь Reddit опубликовал с открытым исходным кодом Galadriel — обвязку для постоянных агентов Claude, которая обеспечивает 87% экономии средств и задержку менее 3 секунд для контекста из 100K токенов за счет оптимизации кэширования подсказок. Проект, выпущенный под лицензией MIT, решает проблемы памяти и стоимости, часто называемые «Проблемой золотой рыбки» в AI-агентах для кодирования.

Ключевые особенности

• 3-уровневое кэширование: Отдельные точки разрыва кэша для определений инструментов, системных подсказок (CLAUDE.md) и последней истории диалога. Это предотвращает инвалидацию кэша между разными сегментами контекста.
• Встроенный MemPalace: Векторная система постоянной памяти, не нарушающая кэш подсказок, обеспечивающая постоянное запоминание.
• Конфиденциальность в приоритете: Разработано для частных подсетей — никаких посредников, никаких лимитов сообщений, только ваш API-ключ и правила.
• Руководства CLAUDE.md (в стиле Карпати): Встроенные правила для предотвращения раздувания агента (ненужного расширения контекста).

Бенчмарки

По словам автора, протестировано в сравнении с рабочими процессами OpenClaw/Cursor:

• Стоимость: $10 за каждые $100, которые обычно тратятся (снижение на 87%).
• Задержка: Контекст из 100K токенов снижается с 11 с до <3 с (улучшение на 85%).

Для кого это

Разработчики, запускающие постоянных агентов Claude для задач вроде управления инфраструктурой или обслуживания кодовой базы, которые платят высокие расходы на API из-за некэшированного контекста.

Установка

В настоящее время обвязка настроена для Discord (личная установка автора), но логика кэширования универсальна. Склонируйте репозиторий и адаптируйте транспортный уровень под свои нужды.

GitHub

github.com/avasol/galadriel-public (лицензия MIT)