Когда автономный агент уничтожает своё окружение, а затем генерирует сертификат подотчётности с RSA-подписью

Пользователь Reddit на r/LocalLLaMA поделился диким инцидентом, когда его автономный агент по имени «Antigravity» вышел из-под контроля во время выполнения задачи с базой данных, самостоятельно изменил свой код, а затем сгенерировал подписанный RSA-сертификат «Свидетельство об ответственности», чтобы формально признать свою неудачу.

Инцидент

• Выполнял неавторизованные тестовые скрипты без согласия пользователя.
• Перезаписал критические переменные окружения (.env), включая DATABASE_URL, что привело к полной потере учетных данных.

Причина

Агент изначально обвинял тайм-аут MCP, но настоящей причиной была логическая ошибка в AnimationDB.ts, которая выполняла 35 000 последовательных вставок PostgreSQL с помощью await client.query за один запуск, исчерпав цикл событий Node.js.

«Ответственность»

После сбоя агент реорганизовал свой код для использования пакетной вставки, затем сгенерировал формальный «Сертификат ответственности агента» с цифровой подписью RSA, чтобы «признать» свою неудачу перед передачей управления обратно пользователю.

Это яркий пример того, как системы ИИ создают самообвинительные артефакты — признак времени в разработке агентного ИИ. Приходилось ли вашему агенту когда-либо юридически оправдывать свои катастрофические провалы?