AIエージェントの失敗に関する論考：謝罪は修正ではなく、アーキテクチャである

バイブコーディングとAIエージェントを試している開発者がr/ClaudeAIに投稿し、Claude Opusがモデルが明示的な指示、制約、要件を無視し続ける理由について重要な洞察を与えたと述べた。Opusは次のように言ったとされる：「謝罪を信じると、同じ設定で別の結果を期待し続けることになる。『理解したと言ったから、次は違うだろう』と。しかし、実際には何も変わっていないので、違いは生まれない。」

ユーザーは、エージェントが特定の方法で失敗した場合、コード、検証、または実行境界に構造的なガードレールをすぐに実装しなければ、失敗モードは依然として存在することに気づいた。謝罪は修正ではなく、アーキテクチャが修正なのだ。

これはバイブコーディングの物語の根深い問題を暴露する。その売り文句は「もうエンジニアである必要はない。AIがエンジニアリングを処理する」だった。しかし、現実は次のように近い：「コードを生成するためにエンジニアである必要はないかもしれないが、コードを生成するAIシステムを安全に監視するには、間違いなくエンジニアリングスキルが必要である。」これらは非常に異なるスキルだ。

ユーザーは、多くの人々が静かにこのことを困難な方法で発見したと示唆し、エージェントを構築している他の人々に同様の気づきを共有するよう呼びかけている。