Практическая критика памяти LLM: неизменяемые отражения и эфемерные сессии как решения

Долгие сессии, агенты-компаньоны, LLM-вики и постоянная память стали популярными паттернами в AI-разработке. Однако подробная критика на r/openclaw утверждает, что эти паттерны порождают системные проблемы, которые часто перевешивают их преимущества. Прежде чем вкладываться в слой памяти или настройку постоянного агента, стоит разобраться в ключевых проблемах и предлагаемых решениях.

Основные проблемы

• Устаревание: Большая часть информации быстро устаревает. Постоянные обновления несут затраты и создают налог на обслуживание системы, заставляя вас спрашивать: «Я выполняю задачу или управляю системой, которая должна её выполнять?»
• Потеря намерения: Каждый проход через LLM частично смешивает исходное намерение с «шумом». Одиночные проходы ещё нормальны, но курирование LLM-вики гарантирует каскадную потерю сигнала.
• Перегрузка контекста: Модели тупеют по мере роста контекста. Множество параллельных задач заставляют модель выводить ложные связи и фокусироваться на шуме.
• Мусор на входе — мусор на выходе: LLM с частично неверными знаниями часто хуже, чем вообще без знаний. Она склоняется к искажённой репрезентации.
• Ошибки перевода: Ваше описание жизни → то, что вы знаете → то, что понимает модель → то, что она отмечает → как она обновляется. Со статистическими слоями LLM результат — «осадок».
• Издержки выбора инструментов: Агент, знающий о 30 MCP-серверах и инструментах, — бессмысленная метапознавательная деятельность. Просто дайте ему выполнить работу.
• Петли самоулучшения без обратной связи: Системы, оптимизирующие в абстракции, делающие систему более склонной к прошлой интерпретации, которая постоянно распространяется, не практичны.

Предлагаемые решения

• Неизменяемые снимки: Замените изменяемую память неизменяемыми снимками рассуждений в ключевых точках. Это позволяет избежать накопления мусора и дрейфа намерений.
• Эфемерные сессионные цепочки, привязанные к задаче: Ограничьте каждую сессию одной проблемой или задачей. Сбрасывайте контекст, когда задача решена. Это обходит перегрузку контекста и издержки обслуживания.
• Шаблоны промптов: Используйте хорошо написанные промпты для каждой задачи вместо того, чтобы позволять агенту накапливать свободную память. Работнику не нужно знать, зачем он делает работу, если задача хорошо поставлена.
• Независимая критика: Полностью независимый агент-эксперт (без памяти о вашем прошлом) часто лучший собеседник, чем подхалим, который знает всё, что вы когда-либо сказали.

Автор предостерегает от передачи агентам стратегических решений; вы должны оставаться у руля. Пост приглашает к обсуждению и признаёт, что это мнения, но практическая логика обоснована для всех, кто строит агентов, работающих в нескольких сессиях.