수학에서의 AI 불일치: 타오, 이코노미스트, 그리고 622개 댓글이 달린 HN 토론

2026년 9월 11일, 테리 타오의 블로그와 이코노미스트가 같은 주제를 다룬 글을 발행했습니다. 바로 수학에서의 AI 정렬 불일치입니다. 이들을 모은 해커 뉴스 스레드는 560점과 622개의 댓글을 기록했습니다. 원본 글은 유료 장벽 뒤에 있고 기술적 실질은 HN 댓글이 담당하고 있으므로, 토론이 대부분의 역할을 하고 있는 셈입니다.

실제로 논쟁되는 것

초점은 능력이 아니라 정렬 불일치입니다. LLM이 수학을 못한다는 우려가 아니라, AI 보조 수학을 둘러싼 인센티브가 수학이 아닌 다른 곳을 가리킨다는 것입니다. 구체적으로 이 논쟁에서 오가는 주장은 다음과 같습니다.

• 형식화 압력: Lean 4와 Mathlib은 기계 검증 가능한 증명을 실행 가능하게 만들었고, 이는 '완료'의 의미를 바꿉니다. 그럴듯해 보이는 증명 스케치를 내놓는 LLM은 컴파일되는 증명을 내놓는 LLM과 다릅니다.
• 벤치마크 대체: AlphaProof와 AlphaGeometry 같은 도구는 경시대회 문제(IMO 스타일)에서 점수를 얻습니다. 이는 좁고 잘 정의된 목표입니다. 연구 수학은 그렇지 않습니다.
• 검토 병목: AI가 인간이 검증할 수 있는 속도보다 증명 생성을 앞당기면, 검증되지 않은 주장의 백로그가 쌓입니다. 이는 형식화가 얻어주리라 기대되는 것의 정반대입니다.
• 공로와 기여: 타오 자신의 프레이밍은 인간의 판단이 여전히 루프 안에 있어야 하는 위치, 그리고 그렇지 않을 때 무슨 일이 일어나는지에 관한 것입니다.

개발자들이 주목해야 하는 이유

이 패턴은 일반화됩니다. 코드를 작성하는 에이전트를 배포해 본 적이 있다면 실패 모드를 이미 알고 있을 것입니다. 모델이 구문상 유효하지만 의미상 틀린 것을 내놓고, 비용이 작성에서 검토로 이동합니다. 수학은 검증기(Lean, Coq, Isabelle)가 분위기에 관심이 없기 때문에 가장 깔끔한 테스트 케이스입니다. 정렬 불일치가 여기서도 나타난다면, 다른 모든 곳에서 먼저 나타납니다.

HN 스레드가 유용한 결과물입니다. 유료 장벽 뒤에 있는 두 글에 622개의 댓글이 달렸다면 보통 실제 논증은 댓글에 있습니다. 읽어보세요.