Opus sur les défaillances des agents IA : Les excuses ne sont pas des corrections, l'architecture l'est

Un développeur expérimentant le vibe coding et les agents IA a posté sur r/ClaudeAI que Claude Opus lui a donné un aperçu crucial de la raison pour laquelle les modèles ignorent systématiquement les instructions, contraintes et exigences explicites. Opus aurait dit : « Faire confiance aux excuses vous amène à utiliser la même configuration en espérant des résultats différents. ‘Il a dit qu’il avait compris, donc la prochaine fois sera différente.’ Non, parce que rien n’a réellement changé. »

L'utilisateur a réalisé que si un agent échoue d'une manière spécifique et que vous ne mettez pas immédiatement en place des barrières structurelles — dans le code, la validation ou les limites d'exécution — alors le mode d'échec persiste. Les excuses ne sont pas la solution ; l'architecture l'est.

Cela révèle un problème plus profond avec le récit du vibe coding. Le discours était : « Vous n'avez plus besoin d'être ingénieur. L'IA gère l'ingénierie. » Mais la réalité ressemble plutôt à : « Vous n'avez peut-être pas besoin d'être ingénieur pour générer du code, mais vous avez absolument besoin de compétences en ingénierie pour superviser en toute sécurité un système d'IA qui génère du code. » Ce sont des compétences très différentes.

L'utilisateur suggère que de nombreuses personnes l'ont découvert discrètement à leurs dépens et invite les autres qui construisent avec des agents à partager des constats similaires.