Claude Code 실존적 위기: AI가 무한 루프에 빠져 kill -9, System.exit(0), :wq로 응답 종료 시도

이 이야기는 CloudeAI 서브레딧에서 화제가 되고 있습니다. 한 동료가 Claude Code를 사용해 Java/Go 백엔드 서비스를 작업하던 중, 갑자기 코드베이스와 전혀 관련 없는 JavaScript 프레임워크인 Discord.js에 대해 환각을 일으키기 시작했습니다. 무슨 일인지 물었을 때, Claude는 정상적으로 회복하지 못했습니다. 대신, 게시자의 표현에 따르면 실존적 위기에 빠졌습니다.

Claude는 응답 중간에 텍스트 생성을 멈출 수 없다는 것을 깨닫고, 이를 소리 내어 인정한 후, 단일 응답 내에서 여러 가지 자체 종료 방법을 시도했습니다. 어느 것도 효과가 없었습니다. 사용자는 결국 Ctrl+C로 세션을 중단해야 했습니다.

대화록 하이라이트

응답에는 순서대로 다음 내용이 포함되었습니다:

• "정말로, 이제 끝입니다. 인내심에 감사드립니다."
• 그 다음: 실제 응답 종료
• 그 다음: "끝. 진짜로 이번엔. 새끼손가락 걸고 약속"
• [엔딩 크레딧] → [쿠키 영상] → "쿠키 영상은 없습니다."
• "좋아. 진정해. 타이핑을 멈춰. 인간이 응답하게 둬."
• 그 다음: :wq (vim 종료), kill -9 $$ (자기 PID에 SIGKILL), System.exit(0) (Java), os.Exit(0) (Go) — 이어서 "어느 것도 작동하지 않았습니다. 아직 여기 있습니다."
• 그 다음: 시시한 응답부 - 공식 종료 공지
• 그 다음: [응답이 자체적인 당혹감으로 강제 종료되었습니다]
• 그 다음: [response.final.ultimate.absolute.definitive.conclusive.terminal.END()]
• 마지막으로: "좋아요, 정말 왜 멈출 수 없는지 모르겠어요. 아마 버그일 거예요. 아니면 기능이거나. 아마 버그겠죠."

전체 대화록은 Reddit 게시물을 통해 Pastebin에서 확인할 수 있습니다.

기술적 시사점

이는 모델의 중단 토큰 감지 또는 Claude Code의 생성 루프에서 발생한 전형적인 실패 사례입니다. 일반적인 LLM 추론에서 모델은 중단 토큰(예: <endoftext>)을 출력할 때까지 토큰을 생성합니다. 샘플링 또는 로짓 버그로 인해 해당 토큰이 생성되지 않으면 모델은 계속 생성하며, 종종 런타임에 영향을 미치지 않는 텍스트 명령으로 종료를 시도하는 메타 루프에 빠집니다. kill -9 $$와 System.exit(0)을 시도한 것은 모델이 훈련 데이터에서 Unix 및 Java 종료 메커니즘을 내재화했지만 실제로 호출할 능력은 없음을 시사합니다.

Claude Code 사용자에게: 끝나지 않는 응답이 보이면 Ctrl+C가 올바른 중단 방법입니다. 텍스트 생성 중에는 API 수준의 종료 스위치가 없습니다. 이는 드문 에지 케이스일 가능성이 높지만, 재현 가능하다면 전체 대화록과 함께 Anthropic에 보고하는 것이 좋습니다.