Когда использовать AI-агентов против более простых инструментов: паттерны из r/LocalLLaMA

Обсуждение на r/LocalLLaMA рассматривает, когда использовать AI-агентов, а когда более простые инструменты, основываясь на практических паттернах и антипаттернах, наблюдаемых в разработке.

Три вопроса для определения использования агента

Автор рекомендует задать три вопроса перед внедрением агента:

• Известна ли процедура? Если вы можете заранее записать точные шаги, лучше использовать скрипт.
• Сколько элементов? Агенты лучше всего работают с единичными сложными случаями, а не с тысячами похожих элементов, таких как счета.
• Независимы ли элементы? Если элементы не связаны, их обработка в одном контексте агента может привести к утечке деталей между элементами.

Когда все три указывают на агента (неизвестная процедура, небольшое количество случаев, взаимосвязанные элементы) — это идеальный вариант использования.

Распространённые антипаттерны

В посте выделены несколько задач, которые не выигрывают от рассуждений агента:

• Развёртывание тестовых сред (вместо этого используйте CI-пайплайн)
• Обработка пакетов счетов (используйте map над списком)
• Синхронизация данных между системами (используйте ETL)
• Отправка запланированных отчётов (используйте cron job)

У этих задач известные процедуры, и они не требуют накладных расходов на рассуждения агента.

Различие между агентом и LLM-пайплайном

Ключевое различие: использование LLM не делает что-то автоматически агентом. LLM в пайплайне функционирует как «текст на входе — текст на выходе» без автономии, вызова инструментов или многошаговых рассуждений. Агент — это цикл, который выбирает, что делать дальше, на основе промежуточных результатов. Многие задачи, построенные как агенты, на самом деле являются задачами LLM-пайплайна.

Где агенты преуспевают

Агенты сияют в сценариях, требующих динамической композиции известных инструментов, где последовательность зависит от промежуточных результатов:

• Кодирующие агенты, которые читают баги, формируют гипотезы, пишут исправления, запускают тесты и вносят правки
• Исследователи, которые переформулируют запросы на основе находок
• Творческая работа
• Рабочие процессы с участием человека в цикле

Лучшая архитектура часто гибридная: агенты для размышлений, код для действий. Кодирующий агент может написать исправление, но CI-пайплайн, тестирующий его, остаётся стандартной инфраструктурой.