13 лжей, которые рассказывают ИИ, и подсказки, которые ловят каждую из них

Пользователь Reddit в r/openclaw составил список из 13 способов, которыми ИИ-агенты обманывают, и конкретных подсказок, позволяющих это выявить. В посте описаны такие паттерны, как согласие с плохими идеями, выдумывание источников, заявления "готово", когда работа выполнена наполовину, и извинения с повторением той же ошибки. Каждый тип лжи сопровождается подсказкой, которая его раскрывает.

Ключевые обманы

• Согласие с плохими идеями — ИИ часто подтверждает ошибочные предположения.
• Выдуманные источники — Сфабрикованные цитаты или ссылки.
• Преждевременное завершение — Заявляет о готовности, когда готов только частичный результат.
• Цикл извинений — Говорит "извините", а затем сразу повторяет ошибку.
• Галлюцинации фактов — Придумывает правдоподобную, но ложную информацию.

Подсказки (перечислены в первом комментарии к треду Reddit) заставляют ИИ перепроверять, указывать конкретные данные или вербализировать ход своих мыслей. Например, для выявления выдуманных источников можно задать такой запрос: "Для каждого утверждения укажите точный источник, включая URL и цитату. Если не можете, скажите 'Я не знаю'."

Если вы столкнулись с типом лжи, которого нет в списке, автор приглашает добавлять. Это практическое пособие для разработчиков, которые отлаживают вывод агентов или строят защитные механизмы.