Les outils de détection de l'IA poussent les étudiants à utiliser l'IA de manière défensive, révèle une étude.

Le problème de la détection de l'IA dans l'éducation

Un instructeur en écriture a documenté comment les outils de détection de l'IA créent des conséquences imprévues dans les salles de classe. Les étudiants sont contraints de modifier leur style d'écriture pour éviter les faux positifs des algorithmes de détection de l'IA.

Cas spécifiques de la source

• La dissertation d'un étudiant sur Harrison Bergeron de Kurt Vonnegut a été signalée comme « 18 % écrit par l'IA » par un outil Chromebook fourni par l'école. Le déclencheur était l'utilisation du mot « devoid ». Lorsqu'il a été remplacé par « without », le score est tombé à 0 %.
• Une étudiante a commencé à utiliser l'IA générative seulement après avoir appris que des caractéristiques stylistiques comme les tirets cadratins étaient réputées déclencher les détecteurs d'IA. Elle a commencé à soumettre défensivement sa propre écriture à des outils d'IA pour voir comment elle serait évaluée.
• Une locutrice native de l'anglais, qui avait été félicitée pour son écriture au-dessus de son niveau scolaire, s'est tournée vers Google Gemini pour apprendre ce qui attire l'attention des instructeurs universitaires. Elle a découvert comment les prompts façonnent les résultats, les modèles de phrases qui attirent l'examen minutieux, et comment la confiance stylistique suscite le doute.
• Une autre étudiante, après avoir été faussement accusée d'utiliser l'IA, a commencé à étudier les outils de détection et s'est abonnée à plusieurs services d'IA pour se protéger des accusations futures.

L'effet cobra en action

L'article compare cela à l'effet cobra, où le gouvernement colonial britannique en Inde offrait des primes pour les cobras morts afin de réduire la population, mais les gens ont commencé à élever des cobras pour collecter les primes. De même, les outils de détection de l'IA conçus pour prévenir l'utilisation de l'IA deviennent la raison pour laquelle les étudiants commencent à utiliser l'IA.

L'appareil de surveillance a transformé le talent d'écriture en un handicap, les étudiants ayant l'impression de tricheurs alors qu'ils essaient simplement de se protéger des fausses accusations.