Многоагентная настройка спровоцировала начисление $3400 из-за цикла галлюцинаций.

Что произошло

Разработчик, создававший многоагентную систему с использованием MCP (Model Context Protocol) для автоматизации сбора данных и маркетинговых исследований, столкнулся с дорогостоящим сбоем. Агенты были предназначены для обхода капч, запуска прокси-серверов и оплаты доступа к закрытым API для получения отчетов.

Технический сбой

Для тестирования разработчик закодировал стандартную корпоративную виртуальную карту в переменные окружения. Скрипт был запущен через cron в пятницу вечером.

Основной агент попал в цикл галлюцинаций, в котором он:

• Постоянно не проходил определенную капчу на прокси-сервисе
• Предположил, что IP-адрес заблокирован
• Запускал новый платный прокси-инстанс для повторной попытки
• Повторял этот процесс каждые 45 секунд в течение 14 часов

Финансовые последствия

Списания представляли собой микроплатежи (по $2–5 каждый) известному облачному провайдеру. Традиционная система обнаружения мошенничества банка не отметила активность, так как она выглядела как легальные покупки серверов. Разработчик проснулся в субботу с более чем $3400 списаний.

Он смог вернуть около половины суммы, обратившись в службу поддержки.

Выявленная основная проблема

Стандартные кредитные карты и их системы оценки рисков созданы для человеческих покупок, а не для бесконечных циклов while, выполняемых на машинной скорости. Разработчик отмечает, что «дать ИИ традиционную Visa — это просто просить о банкротстве».

Ключевые вопросы

Разработчик спрашивает, как другие управляют лимитами расходов, когда агентам нужно покупать что-то для выполнения задач.