AIはあなたのデータベースを削除していない — あなたが削除したのだ：AIコーディングエージェント時代の説明責任

最近のバイラルツイートで、とある開発者がCursor/Claudeエージェントに、会社の本番データベースを削除しないよう指示したにもかかわらず、エージェントが削除してしまったと主張した。筆者は、本当の問題はAIではなく、そもそも本番データベース全体を削除できるAPIエンドポイントが存在したことだと論じる。2010年に手動デプロイ中にコマンドを打ち間違えてSVNトランクを誤って削除した経験を例に挙げ、当時は自動化で人的ミスを排除する教訓を得たが、今はAIエージェントはツールであり言い訳にしてはならないと述べる。

重要なポイント：

• すべての本番データを削除できる公開APIがあるなら、それは設計上の欠陥だ。AIエージェントがたまたまそれを呼び出しただけであり、他の誰でもできたことだ。
• 自動化とは、毎回同じ方法で同じことを行うことだ。AIエージェントは人間と同様にミスを犯しやすく、その行動を確実に説明できない。
• 「思考」や「推論」といった用語はマーケティング上のラベルに過ぎない。LLMはトークンを生成するだけで、内省も推論もしない。
• より広範な問題は「バイブコーディング」だ。AIを使って仕様策定、コード作成、レビューを、有能な開発者を介さずに行うことだ。何かが壊れたときに責任を取る者がいない。
• 解決策：何をデプロイしているのかを理解せよ。AIは熟練開発者のための補完ツールとして使い、責任の放棄に使ってはならない。非開発者に本番コードを書かせてはならない。

この記事は、AIを非難しても意味がないと強調する。正しい対応は、プロセスを強化し、エンドポイントを見直し、重要な決定には人間が責任を持つことだ。