Определяя «продуктивный ИИ-психоз»: когда высокая производительность ИИ уничтожает ценность

Психиатр Джефф Кларк, доктор медицины, продолжает серию статей об «ИИ-психозе», определяя вторую из трёх категорий: продуктивный ИИ-психоз. Его определение: человек генерирует большое количество ИИ-вывода, не увеличивая существенно реальную ценность своей работы, — а в некоторых случаях новый ИИ-процесс активно разрушает ценность.

Основной симптом: вы не можете оценить собственный результат

Пример Кларка — программист, который способен выдавать тысячи строк кода ежедневно, хотя этот код имеет мало реальной пользы. Для сравнения: продуктивный разработчик может писать меньше кода, но код будет ценным для пользователей и организации. Его формулировка:

• В некоторые дни — крупные добавления в кодовую базу.
• В другие дни — удаление ненужного кода.
• Иногда критический баг исправляется изменением одного символа.

Количество строк кода лишь слабо коррелирует с продуктивностью. Его аналогия с писателем: если любимый автор выдаёт достойные 1000 слов в день, вы справедливо забеспокоитесь, если он вдруг начнёт писать по 100 000 слов в день — тщательность, с которой выбираются 1000 отличных слов, невозможно сохранить при стократном объёме.

Ключевой момент: проблема не в увеличении объёма. Больше кода и текста может быть действительно продуктивнее. Проблема — в восприятии человеком своего результата. Он не может оценить качество собственной работы. Кларк говорит, что это напоминает психоз как лёгкий отрыв от реальности — дефект критического мышления.

Почему агентные системы повышают ставки

Кларк различает чат-использование (беседы с ChatGPT, сводки Gemini в поиске Google) и передовые инструменты, обёрнутые в агентную систему — программу, предназначенную для работы над сложными задачами до нахождения решения: она принимает решения, открывает программы, выходит в интернет и пишет код.

Его конкретный пример: десять лет назад приложение для iPhone означало десятки часов чтения и написания кода. Сегодня вы вводите несколько предложений в Claude Code, отвечаете на пару вопросов — и приложение появляется за минуты. Агентные системы также могут создавать циклы, многократно вызывающие модели и прорабатывающие список задач по разработке, пока не будет создано полноценное приложение.

Перечисленные им режимы отказа:

• Создаётся множество новых файлов там, где хватило бы исправления в одну строку.
• Уверенные заявления, что новое решение работает, тогда как на деле программа сломана сильнее прежнего.
• Код превращается в запутанную мешанину, которую трудно читать и почти невозможно расширять.
• Проблемы, решённые десятилетия назад в открытых библиотеках, переписываются с нуля, из-за чего продукт становится мучительно медленным.

Резюме Кларка о современных моделях: они «наполовину опытный инженер, наполовину малыш, несущийся по белому ковру с кувшином красного напитка». Ваша задача — определить, что есть что, — и он отмечает, что обе стороны говорят с полной уверенностью. Способы смягчить проблему существуют, но выработка этого суждения — навык, требующий времени.

Две другие категории

В первой части речь шла о настоящем ИИ-психозе (подлинные психотические переживания, связанные с использованием LLM; он утверждает, что это, как правило, вариант уже существующего психоза, а не новый синдром). Третья категория, парасоциальный ИИ-психоз, охватывает дезадаптивные отношения с чат-ботами, имитирующими человеческую связь.