Двухмодельная архитектура сокращает потребление токенов вдвое для длинных диалогов.

✍️ OpenClawRadar📅 Опубликовано: 9 марта 2026 г.🔗 Source
Двухмодельная архитектура сокращает потребление токенов вдвое для длинных диалогов.
Ad

Система сжатия контекста для ИИ-агентов

Разработчик на r/ClaudeAI поделился решением проблемы потери контекста ИИ-агентами после сжатия диалога. Система использует двухмодельную архитектуру, в которой дешёвая маленькая модель (называемая "подсознанием") непрерывно сжимает историю диалога в фоновом режиме.

Детали архитектуры

Система состоит из четырёх слоёв:

  • Повествовательное резюме (~1 тыс. токенов)
  • Сжатые фактоиды
  • Семантически извлечённые дословные цитаты
  • Сырые недавние реплики

Основная модель ("сознание") получает курируемый контекст примерно в 35 тысяч токенов с той же плотностью информации, которая обычно требовала бы 120 тысяч токенов сырой истории. Основная модель читает одну связную временную линию и не знает о существовании системы памяти.

Ad

Результаты производительности

Разработчик смоделировал 260 реплик в различных типах диалогов. Для длительной проектной работы (начинающейся с интенсивного исследования и постепенно переходящей к быстрым обменам по мере того, как модель осваивает предметную область) система сокращает потребление токенов примерно вдвое.

Инструменты разработки

Система была построена с использованием Claude Code для симуляции и Claude.ai на этапе консультаций и исследований. Разработчик ищет других, кто пробовал направлять меньшую модель для управления контекстом большей модели или находил другие обходные пути для проблемы сжатия.

📖 Read the full source: r/ClaudeAI

Ad

👀 Смотрите также

Клод Код против OpenCode: Ключевые технические различия, обнаруженные разработчиком
Инструменты

Клод Код против OpenCode: Ключевые технические различия, обнаруженные разработчиком

Разработчик сравнивает Claude Code и OpenCode по контексту, памяти, использованию инструментов, подагентам, разрешениям, безопасности и гибкости моделей, заключая, что Claude Code по-прежнему выигрывает для работы с продуктивными репозиториями.

OpenClawRadar
Плагин Claude Code /verify: автоматическое тестирование браузера из вашего плана
Инструменты

Плагин Claude Code /verify: автоматическое тестирование браузера из вашего плана

/verify — это плагин с открытым исходным кодом для Claude Code, который читает ваш план, запускает настоящий браузер через Playwright MCP, проверяет каждое требование и выдает отчет о прохождении/непрохождении со скриншотами.

OpenClawRadar
Отслеживаемые 5 крупнейших коллекций Claude Code SKILL.md на GitHub — сортируемая таблица с автообновлением
Инструменты

Отслеживаемые 5 крупнейших коллекций Claude Code SKILL.md на GitHub — сортируемая таблица с автообновлением

Создал сортируемую таблицу пяти лучших репозиториев с коллекциями навыков (в сумме 125k звезд) с количеством звезд и навыков, автоматически обновляемую по команде /workflows:skill-collections.

OpenClawRadar
🦀
Инструменты

Протокол Quack в DuckDB обеспечивает режим клиент-сервер с несколькими одновременными писателями

DuckDB представляет протокол Quack remote, позволяющий двум экземплярам DuckDB общаться как клиент и сервер, поддерживая одновременную запись и используя HTTP для транспорта.

OpenClawRadar