Двухмодельная архитектура сокращает потребление токенов вдвое для длинных диалогов.
Система сжатия контекста для ИИ-агентов
Разработчик на r/ClaudeAI поделился решением проблемы потери контекста ИИ-агентами после сжатия диалога. Система использует двухмодельную архитектуру, в которой дешёвая маленькая модель (называемая "подсознанием") непрерывно сжимает историю диалога в фоновом режиме.
Детали архитектуры
Система состоит из четырёх слоёв:
- Повествовательное резюме (~1 тыс. токенов)
- Сжатые фактоиды
- Семантически извлечённые дословные цитаты
- Сырые недавние реплики
Основная модель ("сознание") получает курируемый контекст примерно в 35 тысяч токенов с той же плотностью информации, которая обычно требовала бы 120 тысяч токенов сырой истории. Основная модель читает одну связную временную линию и не знает о существовании системы памяти.
Результаты производительности
Разработчик смоделировал 260 реплик в различных типах диалогов. Для длительной проектной работы (начинающейся с интенсивного исследования и постепенно переходящей к быстрым обменам по мере того, как модель осваивает предметную область) система сокращает потребление токенов примерно вдвое.
Инструменты разработки
Система была построена с использованием Claude Code для симуляции и Claude.ai на этапе консультаций и исследований. Разработчик ищет других, кто пробовал направлять меньшую модель для управления контекстом большей модели или находил другие обходные пути для проблемы сжатия.
📖 Read the full source: r/ClaudeAI
👀 Смотрите также
Клод Код против OpenCode: Ключевые технические различия, обнаруженные разработчиком
Разработчик сравнивает Claude Code и OpenCode по контексту, памяти, использованию инструментов, подагентам, разрешениям, безопасности и гибкости моделей, заключая, что Claude Code по-прежнему выигрывает для работы с продуктивными репозиториями.
Плагин Claude Code /verify: автоматическое тестирование браузера из вашего плана
/verify — это плагин с открытым исходным кодом для Claude Code, который читает ваш план, запускает настоящий браузер через Playwright MCP, проверяет каждое требование и выдает отчет о прохождении/непрохождении со скриншотами.
Отслеживаемые 5 крупнейших коллекций Claude Code SKILL.md на GitHub — сортируемая таблица с автообновлением
Создал сортируемую таблицу пяти лучших репозиториев с коллекциями навыков (в сумме 125k звезд) с количеством звезд и навыков, автоматически обновляемую по команде /workflows:skill-collections.
Протокол Quack в DuckDB обеспечивает режим клиент-сервер с несколькими одновременными писателями
DuckDB представляет протокол Quack remote, позволяющий двум экземплярам DuckDB общаться как клиент и сервер, поддерживая одновременную запись и используя HTTP для транспорта.