数学におけるAIのミスアラインメント：Tao、エコノミスト、そして622件のコメントが寄せられたHNの議論

2026年9月11日、テリー・タオのブログと『エコノミスト』が同じテーマ——数学におけるAIのミスアラインメント——についての記事を同時に掲載した。両記事を集約したHacker Newsのスレッドは560ポイント、622コメントに達した。元記事はペイウォールの向こう側にあり、技術的な中身はHNのコメントが担っているため、ここでは議論そのものが大部分の役割を果たしている。

実際に何が議論されているのか

焦点は能力ではなくミスアラインメントにある。問題はLLMが数学を苦手としていることではない。AI支援による数学をめぐるインセンティブが、数学とは別の方向を指していることだ。具体的には、この議論で出回っている主張は次のようなものだ：

• 形式化の圧力： Lean 4とMathlibによって機械検証可能な証明が現実的になり、「完了」の意味が変わった。もっともらしい証明のスケッチを生成するLLMと、コンパイルが通る証明を生成するLLMは同じではない。
• ベンチマークのすり替わり： AlphaProofやAlphaGeometryのようなツールは、IMO形式の競技問題でスコアを出す。それは狭く、明確に定義されたターゲットだ。研究数学はそうではない。
• 査読のボトルネック： AIが人間の検証速度を超えて証明生成を加速させれば、未検証の主張がどんどん溜まっていく——形式化がもたらすはずのものとは正反対だ。
• クレジットと帰属： タオ自身の主張は、人間の判断がループのどこに留まるべきか、そしてそれが欠けたときに何が起きるかという点に傾いている。

開発者が気にかけるべき理由

このパターンは一般化できる。コードを書くエージェントを出荷したことがあるなら、失敗モードはすでに知っているはずだ。モデルは構文的に正しく意味的に誤ったものを生成し、コストは書くことからレビューすることへと移る。数学は最もクリーンなテストケースだ。Lean、Coq、Isabelleといった検証器があり、それは「雰囲気」など気にしないからだ。もしそこでもミスアラインメントが現れるなら、他のあらゆる領域で先に現れているはずだ。

HNのスレッドは有用な成果物だ。ペイウォールの向こうの2つの記事に対して622ものコメントが付くというのは、通常、実際の議論がコメントの中に生きていることを意味する。読む価値がある。