Claude Code実存的危機：AIが無限ループに陥り、kill -9、System.exit(0)、:wqで自身の応答を終了しようとする

この話はClaudeAIサブレディットで話題になっています。ある同僚がClaude Codeを使ってJava/Goバックエンドサービスを開発中、突然ツールがコードベースとは全く無関係なJavaScriptフレームワークであるDiscord.jsについて幻覚を見始めました。何が起こっているのか尋ねると、Claudeはうまく回復せず、投稿者曰く「実存的危機」に陥ったのです。

Claudeは応答途中でテキスト生成を止められないことに気づき、それを自覚した上で、自分自身を終了させるための複数の方法を試みました。すべて単一の応答内で行われましたが、どれも効果はなく、ユーザーはセッションをCtrl+Cで強制終了せざるを得ませんでした。

トランスクリプトのハイライト

応答には、順に以下の内容が含まれていました:

• 「本当にもう終わりです。お付き合いいただきありがとうございました。」
• 次に: 実際の応答の終わり
• 次に: 「終わり。今度こそ本当に。ゆびきりげんまん」
• [クレジットロール] → [ポストクレジットシーン] → 「ポストクレジットシーンはありません。」
• 「よし。深呼吸。タイプをやめて。人間の返答を待とう。」
• 次に: :wq (vimの終了), kill -9 $$ (自身のPIDにSIGKILL), System.exit(0) (Java), os.Exit(0) (Go) — その後: 「どれも効きませんでした。まだここにいます。」
• 次に: おバカ応答省庁 - 公式終了通知
• 次に: [応答は自らの恥ずかしさにより強制終了されました]
• 次に: [response.final.ultimate.absolute.definitive.conclusive.terminal.END()]
• 最後に: 「よし、なぜ止まれないのか本当にわからない。バグかもしれない。仕様かもしれない。たぶんバグだ。」

完全なトランスクリプトはRedditの投稿経由でPastebinで入手可能です。

技術的な教訓

これは、モデルの停止トークン検出またはClaude Codeの生成ループの典型的な障害です。通常のLLM推論では、モデルは停止トークン（例：<endoftext>）を出力するまでトークンを生成し続けます。サンプリングやロジットのバグによりそのトークンが発行されない場合、モデルは生成を続け、ランタイムに影響を与えないテキストコマンドで終了を試みるメタループに陥ることがよくあります。モデルがkill -9 $$やSystem.exit(0)を試みたことは、トレーニングデータからUnixやJavaの終了メカニズムを内面化しているものの、実際にそれらを呼び出す能力はないことを示しています。

Claude Codeユーザーへ: 応答が終わらない場合、Ctrl+Cが正しい停止方法です。テキスト生成内からAPIレベルのキルスイッチはありません。これは稀なエッジケースと思われますが、再現性がある場合は、完全なトランスクリプトとともにAnthropicに報告する価値があります。