6 типов циклов, обнаруженных в производственных AI-агентах: анализ логов за неделю

Пользователь Reddit запустил 5 продакшн-агентов (поддержка, стратегический оркестратор, ревьюер кода, стратегический исполнитель, монитор сделок) на неделю, записав 670 событий. Они выявили 6 типов циклов высокой степени серьезности, которые часто остаются незамеченными до получения ежемесячного счета от OpenAI. Вот шаблоны, обобщенные для практической отладки.

6 типов циклов

• Колебание решений: Агент 6 раз переключается между 2 значениями для одного и того же ключа. Логи показывают каждый раз решительный ответ, но он чередуется между двумя одинаковыми вариантами.
• Цикл повторных попыток: 15 последовательных вызовов одного и того же инструмента с одинаковыми аргументами, все 15 завершились неудачей. Никакой автоматический выключатель не остановил процесс. Коды статуса были пустыми, что привело к тихому сбою.
• Цикл пинг-понга: Два агента (стратегический оркестратор и стратегический исполнитель) попеременно пишут в один и тот же ключ общей памяти, каждый «исправляя» запись другого. Обнаружено после 6 записей.
• Цикл чтения-записи: Агент читает память, пишет исправленную версию, которая на 100% идентична предыдущей записи. Повторяется 5 циклов. Чистая трата ресурсов.
• Цикл рефлексии: 3 последовательные записи в один и тот же ключ, каждая как минимум на 84% похожа на предыдущую. Саморефлексия превращается в само-размышление.
• Недетерминизм инструмента: 5 успешных вызовов одного и того же инструмента с одинаковыми аргументами каждый раз дают разные результаты. Это не совсем цикл, но это убивает кэширование и вызывает постоянные переоценки ниже по потоку.

Пользователь отмечает, что устранение этих шаблонов решило около 90% проблем, но это не идеально. Он рекомендует добавить автоматические выключатели, проверки на дублирование и пороги схожести, чтобы обнаруживать циклы до их эскалации.