'다작 AI 정신증'의 정의: 높은 AI 산출량이 가치를 파괴할 때

정신과 의사 제프 클라크(Jeff Clark, MD)는 'AI 정신증' 시리즈를 이어가며 세 가지 범주 중 두 번째인 생산적 AI 정신증을 정의한다. 그의 정의는 다음과 같다. 사람이 자신의 작업에서 실질적 가치를 크게 높이지 않으면서 대량의 AI 결과물을 생성하는 것 — 때로는 새로운 AI 워크플로가 적극적으로 가치를 파괴하기도 한다.

핵심 증상: 자신의 결과물을 판단할 수 없다

클라크의 예시는 매일 수천 줄의 코드를 생산할 수 있지만 그 코드가 현실에서 거의 쓸모가 없는 소프트웨어 엔지니어다. 이와 대조적으로 생산적인 개발자는 코드를 덜 작성할지라도 사용자와 조직에 가치 있는 코드를 만든다. 그의 설명은 이렇다.

• 어떤 날은 코드베이스에 대규모 추가가 이루어진다.
• 다른 날은 불필요한 코드를 삭제하는 데 쓰인다.
• 때때로 소프트웨어를 망가뜨리는 버그가 단 한 글자를 바꿔 고쳐진다.

코드 줄 수는 생산성과 느슨하게만 상관관계가 있다. 그의 작가 비유를 보면, 당신이 좋아하는 작가가 하루 1,000단어를 괜찮게 써내다가 갑자기 하루 100,000단어를 쓴다면 당연히 걱정할 것이다. 1,000개의 좋은 단어를 고르는 데 들어가는 정성은 100배의 분량에서 유지될 수 없다.

핵심은 이것이다. 문제는 결과물의 증가가 아니다. 더 많은 코드와 더 많은 텍스트는 진정으로 더 생산적일 수 있다. 문제는 결과물에 대한 당사자의 인식이다. 그들은 자신의 작업 품질을 평가할 수 없다. 클라크는 이것이 현실과의 가벼운 단절, 즉 비판적 사고의 결함이라는 점에서 정신증을 모방한다고 말한다.

에이전트 하네스가 판돈을 높이는 이유

클라크는 채팅형 사용(ChatGPT 대화, 구글 검색의 Gemini 요약)과 에이전트 하네스로 감싼 최신 도구를 구분한다. 에이전트 하네스는 해결책을 찾을 때까지 복잡한 작업을 수행하도록 설계된 프로그램으로, 의사결정을 하고, 프로그램을 열고, 인터넷에 접속하고, 소프트웨어를 작성한다.

그의 구체적 예시: 10년 전에는 아이폰 앱 하나에 수십 시간의 코드 읽기와 쓰기가 필요했다. 오늘날에는 Claude Code에 몇 문장을 입력하고 몇 가지 질문에 답하면 몇 분 만에 앱이 나온다. 하네스는 모델을 반복 호출하는 루프를 만들어 소프트웨어 개발 할 일 목록을 처리하다가 완전한 앱을 완성할 수도 있다.

그가 나열한 실패 유형은 다음과 같다.

• 한 줄 수정으로 충분했을 일에 여러 개의 새 파일이 생성된다.
• 새 해결책이 작동한다고 자신 있게 주장하지만 실제 소프트웨어는 그 어느 때보다 망가져 있다.
• 코드가 읽기 어렵고 확장이 거의 불가능한 엉킨 덩어리가 된다.
• 오픈소스 라이브러리가 이미 해결한 수십 년 된 문제를 처음부터 다시 만들어 제품이 끔찍하게 느려진다.

클라크의 현재 모델 요약: 이들은 "절반은 시니어 엔지니어, 절반은 흰 카펫 위를 빨간 쿨에이드 한 병 들고 뛰어다니는 유아"다. 당신의 일은 어느 쪽이 어느 쪽인지 판별하는 것이다. 그리고 그는 양쪽 모두 완전한 확신을 가지고 말한다고 지적한다. 완화책은 존재하지만, 그 판단력을 기르는 것은 시간이 걸리는 기술이다.

나머지 두 범주

1부에서는 진성 AI 정신증(LLM 사용과 관련된 진짜 정신증적 경험으로, 그는 이것이 일반적으로 새로운 증후군이라기보다 기존 정신증의 변형이라고 주장한다)을 다뤘다. 세 번째 범주인 준사회적 AI 정신증은 인간적 연결을 흉내 내는 챗봇과의 부적응적 관계를 다룬다.