ИИ-пинг-понг: когда каждый ответ — скриншот ChatGPT

Тред на Hacker News с 104 баллами и 48 комментариями отражает растущее разочарование разработчиков: их заваливают AI-ответами, лишенными контекста, часто неверными и пересланными людьми, которые явно их не читали.

Что происходит

Автор поста (theorchid) описывает три случая:

• Нашел вредоносное ПО на GitHub, попросил AI совета — ничего полезного. Открыл обсуждение на GitHub. Первый ответ: тот же текст, что дал AI. Указал на это — комментарий удален. Второй ответ: снова тот же AI-ответ.
• Задал вопрос владельцу бизнеса на работе. Получил скриншот ChatGPT. Ответил, что это неверно. Через минуту — еще один скриншот ChatGPT. Владелец так и не прочитал ни один ответ.
• Получил личное сообщение в Reddit, ответил, началась переписка. Через несколько сообщений понял, что это AI-агент.

Другие разработчики добавляют свои истории. programmertote рассказывает: «На прошлой неделе мой начальник, главный директор по данным и аналитике, скинул AI-сгенерированное предложение (~7 страниц) о том, как структурировать семантический слой поверх наших dbt-моделей. Как лид по инженерии данных, я должен был это прочитать и нашел несколько вопиющих проблем... Вчера один коллега поделился еще одним явно AI-сгенерированным 5-страничным черновиком СОПа по реинтеграции старых метрик. Думаю, со временем мы все станем рецензентами AI-вывода.»

jadar задается вопросом, не придется ли нам скоро выполнять AI-вывод вместо того, чтобы делиться им: «Если вы можете логически прийти к работающей системе, вы знаете, о чем говорите. Если нет — не стоит тратить время на выяснение.»

Практические ответы

• jochem9: «Попросите их поделиться своим промптом вместо ответа. Это вскрывает их AI-чепуху и дает способ поделиться тем, что они на самом деле думают.»
• LPisGood: «Почему бы не попросить свой AI проверить их AI-мусор? То, что отправлено бездумно, можно и ответить бездумно.»
• sixtyj предлагает автоматические ответы: «Этот текст был сгенерирован автоматически и не проверен перед отправкой. Это AI-мусор, и я отказываюсь его читать. Сделайте это снова. И сделайте лучше.»

Вывод для разработчиков

Слепая пересылка AI-вывода подрывает доверие и создает лишнюю работу для рецензентов. Установление нормы — делиться промптом, обосновывать вывод или рисковать быть проигнорированным — может замедлить AI-пинг-понг. Как сказал один комментатор: установить консенсус, что распространение непрочитанного AI-мусора неприемлемо.