Внимательное управление: Проблема избирательного забывания в системах памяти искусственного интеллекта

Разработчик, работающий над ботом OpenClaw, выявил фундаментальный пробел в современных подходах к памяти ИИ. После создания пятиуровневой системы памяти, улучшившей функциональное воспроизведение информации, он осознал, что системе не хватает важного когнитивного механизма человека: способности подавлять нерелевантную информацию во время сфокусированного мышления.

Проблема: слишком много воспроизведения, недостаточно фильтрации

Разработчик отмечает, что когда люди сосредотачиваются на конкретной теме, например, на UX/UI веб-сайта, они легко не думают о несвязанных темах, таких как ипотека, амфибийные автомобили или завтрак. Этот механизм подавления позволяет сфокусированному мышлению, предотвращая фрагментацию внимания.

Современные системы памяти ботов извлекают всё, что может быть релевантным, или даже всё, что когда-либо запоминалось, что разработчик сравнивает с "столом, заваленным бумагами, большинство из которых не имеют отношения к текущей задаче". Такой подход тратит токены LLM и снижает концентрацию.

Предлагаемое решение: внимательный отбор

Разработчик предполагает, что необходим механизм, который говорит боту: "да, это связано, но размышление об этом сейчас приведёт к фрагментации твоего внимания". Речь идёт не о постоянном забывании информации, а о контекстном её подавлении.

Ключевой вопрос становится: "учитывая, что ты собираешься делать, о чём тебе НЕ следует думать прямо сейчас?" Это требует моделирования того, какие мысли подавлять, а не просто того, какие токены исключать из памяти.

Практические последствия

• Пятиуровневая система памяти уже существует и улучшает воспроизведение информации
• Отсутствующий компонент — избирательное забывание/подавление во время конкретных задач
• Речь идёт не о постоянном удалении, а о контекстной фильтрации релевантности
• Цель — предотвратить фрагментацию внимания, сохраняя при этом полную память

Разработчик признаёт, что у него пока нет решения, но открывает обсуждение для сообщества OpenClaw для совместного решения проблемы.