Исследование показало, что инструменты для обнаружения ИИ вынуждают студентов использовать ИИ в оборонительных целях.

Проблема с обнаружением ИИ в образовании

Преподаватель письма задокументировал, как инструменты обнаружения ИИ создают непредвиденные последствия в классах. Студентов вынуждают изменять свой стиль письма, чтобы избежать ложных срабатываний от алгоритмов обнаружения ИИ.

Конкретные случаи из источника

• Эссе одного студента о Курте Воннегуте «Гаррисон Бержерон» было помечено как «написано на 18% ИИ» инструментом на школьном Chromebook. Триггером стало использование слова «лишён». При замене на «без» оценка упала до 0%.
• Студентка начала использовать генеративный ИИ только после того, как узнала, что стилистические особенности, такие как длинные тире, по слухам, запускают детекторы ИИ. Она начала оборонительно пропускать своё собственное письмо через инструменты ИИ, чтобы посмотреть, как оно будет регистрироваться.
• Носительница английского языка, которую хвалили за письмо выше уровня класса, обратилась к Google Gemini, чтобы узнать, что вызывает красные флаги у преподавателей колледжей. Она узнала о промптах, формирующих выводы, шаблонах предложений, привлекающих пристальное внимание, и о том, как стилистическая уверенность вызывает сомнения.
• Другая студентка, после того как её ложно обвинили в использовании ИИ, начала изучать инструменты обнаружения и подписалась на несколько сервисов ИИ, чтобы защитить себя от будущих обвинений.

Эффект кобры в действии

Статья сравнивает это с эффектом кобры, когда британское колониальное правительство в Индии предлагало вознаграждение за мёртвых кобр, чтобы сократить популяцию, но люди начали разводить кобр, чтобы получать вознаграждение. Аналогично, инструменты обнаружения ИИ, предназначенные для предотвращения использования ИИ, становятся причиной, по которой студенты начинают использовать ИИ.

Аппарат наблюдения превратил писательский талант в обузу, и студенты чувствуют себя мошенниками, когда они просто пытаются защитить себя от ложных обвинений.