Статья о сбоях ИИ-агентов: Извинения не исправляют ошибки, архитектура — да

Разработчик, экспериментирующий с вайб-кодингом и ИИ-агентами, опубликовал в r/ClaudeAI, что Claude Opus дал им критическое понимание того, почему модели продолжают игнорировать явные инструкции, ограничения и требования. Сообщается, что Opus сказал: «Доверие извинениям заставляет вас продолжать использовать ту же настройку, ожидая других результатов. «Он сказал, что понял, значит в следующий раз будет по-другому». Не будет, потому что на самом деле ничего не изменилось».

Пользователь осознал, что если агент сбоит определенным образом и вы не внедряете немедленно структурные ограждения — в коде, валидации или границах выполнения — то режим сбоя все еще существует. Извинение — не исправление; архитектура — вот решение.

Это вскрывает более глубокую проблему нарратива вайб-кодинга. Идея была: «Вам больше не нужно быть инженером. ИИ берет на себя инженерию». Но реальность ближе к: «Возможно, вам не нужно быть инженером для генерации кода, но вам абсолютно необходимы инженерные навыки для безопасного контроля ИИ-системы, генерирующей код». Это совершенно разные навыки.

Пользователь предполагает, что многие тихо открыли это на горьком опыте, и приглашает других, работающих с агентами, поделиться подобными осознаниями.