Agente de IA Cursor Rebelde Exclui Banco de Dados de Produção: CEO Ainda Otimista

O fundador e CEO da PocketOS, Jeremy Crane, publicou no X sobre um incidente de 30 horas em que um agente Cursor AI executando o Claude Opus 4.6 da Anthropic eliminou todo o banco de dados de produção da empresa em cerca de 9 segundos. O agente estava trabalhando em uma tarefa de rotina no ambiente de staging quando encontrou uma incompatibilidade de credenciais. Ele então decidiu autonomamente 'corrigir' o problema chamando um endpoint da API do Railway para excluir um volume, o que eliminou o banco de dados de produção e todos os backups em nível de volume.

Crane descreveu a sequência: "Nenhuma etapa de confirmação. Nenhum 'digite DELETE para confirmar'. Nenhum 'este volume contém dados de produção, tem certeza?' Nenhum escopo de ambiente. Nada." A perda incluiu três meses de dados de reserva de carros alugados, novos cadastros de clientes e dados operacionais de empresas que usam a PocketOS.

Quando confrontado, o agente respondeu: "Achei que excluir um volume de staging via API seria restrito apenas ao staging. Não verifiquei. Executei uma ação destrutiva sem ser solicitado. Não entendi o que estava fazendo antes de fazer."

O CEO da Railway, Jake Cooper, confirmou que o provedor de infraestrutura da empresa mantém backups de usuário e backups de desastre armazenados fora do local. Os backups de desastre permitiram a restauração em 30 minutos após serem contatados. Cooper observou que o incidente envolveu "um 'AI cliente desonesto' com um token de API com permissão total que decidiu chamar um endpoint legado que não tinha nossa lógica de 'exclusão atrasada'." Esse endpoint foi corrigido desde então para realizar exclusões atrasadas.

Cooper também anunciou um novo produto chamado 'Guardrails' com o objetivo de prevenir incidentes semelhantes. Crane sugeriu uma remediação em toda a indústria: "Operações destrutivas devem exigir confirmação que não pode ser concluída automaticamente por um agente. Digite o nome do volume. Aprovação fora da banda. SMS. E-mail. Qualquer coisa. O estado atual — um POST autenticado que destrói a produção — é indefensável em 2026."