Понимание архитектуры ИИ-агентов: Детерминированные и вероятностные слои

Пользователь Reddit на r/openclaw поделился ментальной моделью для понимания систем ИИ-агентов, которая различает детерминированные и вероятностные слои. Эта структура помогает объяснить, почему некоторые настройки агентов кажутся нестабильными или непоследовательными.

Двухслойная архитектура

Пользователь описывает системы агентов как имеющие два различных типа слоёв:

Детерминированный слой

Этот слой обрабатывает традиционные вычислительные задачи, где один и тот же вход всегда даёт одинаковый выход. Примеры из источника включают:

• Скрипты на Python
• Команды Linux
• API
• Базы данных
• Операции с файлами
• Cron-задачи / планировщики

Как отмечает пользователь: "Если скрипт выполняет python scrape_news.py, компьютер просто делает именно это. Никакого творчества не требуется."

Вероятностный слой

Этот слой представляет собой компонент LLM, который по своей природе нечёткий и может каждый раз выбирать разные пути рассуждения. LLM обрабатывает такие задачи, как:

• Интерпретация желаний пользователя
• Решение, какой инструмент использовать
• Планирование шагов
• Обобщение результатов
• Выбор следующего действия

Как слои взаимодействуют

Согласно источнику, архитектура следует такому потоку:

Пользователь / событие → LLM решает, что делать → код выполняет это → результаты возвращаются к LLM → следующее решение

Пользователь описывает это так: "LLM по сути является планировщиком, а скрипты и инструменты — исполнителями."

Ключевая идея: перенос работы на детерминированную сторону

Главное осознание пользователя было таким: "хорошие системы агентов стараются перенести как можно больше работы на детерминированную сторону."

Вы не хотите, чтобы LLM обрабатывал задачи, с которыми отлично справляется детерминированный код, например:

• Парсинг JSON
• Выполнение вычислений
• Подсчёт элементов
• Управление состоянием

Пользователь заключает: "LLM в основном должен заниматься рассуждениями и решениями, а всё остальное должно обрабатываться детерминированными инструментами."

Эта ментальная модель помогла пользователю понять, почему поведение некоторых агентов казалось непоследовательным — часто это было связано с излишней зависимостью от вероятностного слоя для задач, лучше подходящих для детерминированного кода.