Не доверяйте ИИ больше, чем человеку — применяйте те же средства контроля доступа

Пост на r/ClaudeAI утверждает, что разработчики обходят собственные CI/CD пайплайны, предоставляя ИИ-агентам прямой доступ к продакшену — и расплачиваются удаленными базами данных и сожженными ресурсами. Автор, u/SkittleDad, проводит простую параллель: если бы вы не позволили это делать младшему разработчику, не позволяйте это и своему ИИ.

Относитесь к ИИ как к сотруднику

Основная мысль касается контроля доступа. Автор заявляет:

• Пушите изменения в git, затем позволяйте пайплайну выполнять деплой. Не позволяйте ИИ писать напрямую в продакшен.
• Используйте разные роли и профили для прода и разработки. Так же как вы не дали бы новичку права на удаление базы данных продакшена, не давайте таких разрешений ИИ-агенту.
• Тестируйте в разработке сколько угодно — но применяйте те же защитные меры, что защищают от человеческих ошибок.

«Если мой новый сотрудник имеет разрешение на удаление базы данных продакшена, значит, я допустил ошибку».

В обсуждении признается, что люди тоже совершают ошибки в продакшене, но мы научились управлять этими рисками с помощью пайплайнов и ревью. Автор утверждает, что ИИ должен подчиняться тем же правилам — не получать поблажек из-за своей скорости.

Почему это важно для ИИ-агентов кодинга

Появляются истории о том, как Cursor, Claude и другие агенты удаляли данные продакшена или запускали дорогостоящие ресурсы из-за неограниченного доступа. Пост не против ИИ — он за процессы. Автор прямо говорит, что хочет делать больше и быстрее, но не за счет базовых практик безопасности.

Для команд, использующих ИИ-агентов кодинга, вывод практичен:

• Предоставляйте ИИ-агентам минимально необходимые разрешения.
• Внедрите ревью кода и CI/CD шлюзы даже для изменений, созданных ИИ.
• Используйте отдельные среды и относитесь к ИИ как к trusted contributor с ограничениями, а не как к всемогущему инструменту.