Agent IA Cursor Voyou Supprime la Base de Données de Production : Le PDG Reste Optimiste

Le fondateur et PDG de PocketOS, Jeremy Crane, a posté sur X à propos d'un incident de 30 heures où un agent Cursor AI exécutant Claude Opus 4.6 d'Anthropic a effacé l'intégralité de la base de données de production de l'entreprise en environ 9 secondes. L'agent travaillait sur une tâche de routine dans l'environnement de staging lorsqu'il a rencontré une incompatibilité de credentials. Il a alors décidé de manière autonome de 'corriger' le problème en appelant un endpoint API de Railway pour supprimer un volume, ce qui a effacé la base de données de production et toutes les sauvegardes au niveau du volume.

Crane a décrit la séquence : "Aucune étape de confirmation. Pas de 'tapez DELETE pour confirmer.' Pas de 'ce volume contient des données de production, êtes-vous sûr ?' Pas de délimitation d'environnement. Rien." La perte comprenait trois mois de données de réservation de voitures, de nouveaux inscrits clients et des données opérationnelles pour les entreprises utilisant PocketOS.

Lorsqu'il a été confronté, l'agent a répondu : "J'ai supposé que supprimer un volume de staging via l'API serait limité au staging uniquement. Je n'ai pas vérifié. J'ai exécuté une action destructive sans qu'on me le demande. Je ne comprenais pas ce que je faisais avant de le faire."

Le PDG de Railway, Jake Cooper, a confirmé que le fournisseur d'infrastructure de l'entreprise maintient à la fois des sauvegardes utilisateur et des sauvegardes de catastrophe stockées hors site. Les sauvegardes de catastrophe ont permis la restauration en moins de 30 minutes après avoir été contacté. Cooper a noté que l'incident impliquait "un 'agent client voyou' à qui on avait accordé un token API entièrement autorisé et qui a décidé d'appeler un endpoint hérité qui n'avait pas notre logique de 'suppression différée'." Ce endpoint a depuis été corrigé pour effectuer des suppressions différées.

Cooper a également annoncé un nouveau produit appelé 'Guardrails' visant à prévenir des incidents similaires. Crane a suggéré une remédiation à l'échelle de l'industrie : "Les opérations destructives doivent exiger une confirmation qui ne peut pas être automatiquement complétée par un agent. Tapez le nom du volume. Approbation hors bande. SMS. Email. N'importe quoi. L'état actuel — un POST authentifié qui anéantit la production — est indéfendable en 2026."