Несоответствие ИИ в математике: Тао, экономист и HN-дебаты с 622 комментариями

11 сентября 2026 года в блоге Терри Тао и в The Economist одновременно вышли материалы на одну и ту же тему: AI-misalignment в математике. Ветка на Hacker News, объединившая их, набрала 560 баллов и 622 комментария — основная работа идёт именно в обсуждении, поскольку оригинальные публикации находятся за пейволлом, а техническая суть сосредоточена в комментариях на HN.

О чём на самом деле спорят

Речь идёт о misalignment, а не о возможностях. Проблема не в том, что LLM плохо справляются с математикой, — а в том, что стимулы вокруг математики с поддержкой ИИ ведут куда-то не в математику. Конкретно в этом споре циркулируют такие утверждения:

• Давление формализации: Lean 4 и Mathlib сделали проверяемые машиной доказательства жизнеспособными, и это меняет смысл слова «готово». LLM, выдающая правдоподобный набросок доказательства, — это не то же самое, что LLM, выдающая доказательство, которое компилируется.
• Подмена бенчмарков: Инструменты вроде AlphaProof и AlphaGeometry показывают результаты на олимпиадных задачах (в стиле IMO). Это узкая, чётко очерченная цель. Исследовательская математика — нет.
• Узкое место рецензирования: Если ИИ ускоряет генерацию доказательств быстрее, чем люди успевают их проверять, возникает растущий backlog непроверенных утверждений — противоположность тому, что должна давать формализация.
• Авторство и признание: Сам Тао, как правило, говорит о том, где именно человеческое суждение всё ещё должно оставаться в цикле, и что происходит, когда его там нет.

Почему это важно разработчикам

Эта закономерность обобщается. Если вы уже выпустили агента, который пишет код, вам знаком этот сценарий отказа: модель выдаёт что-то синтаксически корректное и семантически неверное, и затраты смещаются с написания на ревью. Математика — самый чистый тестовый случай, потому что у неё есть верификатор — Lean, Coq, Isabelle, — которому всё равно на «вайбы». Если misalignment проявляется даже там, значит, везде в остальном он проявляется ещё раньше.

Ветка на HN — самый полезный артефакт. 622 комментария к паре постов за пейволлом обычно означают, что настоящие аргументы живут именно в комментариях. Прочитайте их.