Las herramientas de detección de IA impulsan a los estudiantes a usar la IA de manera defensiva, según un estudio

El problema con la detección de IA en la educación

Un instructor de escritura documentó cómo las herramientas de detección de IA están creando consecuencias no deseadas en las aulas. Los estudiantes se ven obligados a modificar su estilo de escritura para evitar falsos positivos de los algoritmos de detección de IA.

Casos específicos de la fuente

• Un ensayo de un estudiante sobre Harrison Bergeron de Kurt Vonnegut fue marcado como "18% escrito por IA" por una herramienta de Chromebook proporcionada por la escuela. El desencadenante fue usar la palabra "devoid". Cuando se cambió por "without", la puntuación bajó al 0%.
• Una estudiante comenzó a usar IA generativa solo después de enterarse de que características estilísticas como los guiones largos supuestamente activaban los detectores de IA. Empezó a pasar su propia escritura por herramientas de IA de manera defensiva para ver cómo se registraría.
• Una hablante nativa de inglés que había sido elogiada por escribir por encima de su nivel escolar recurrió a Google Gemini para aprender qué levanta banderas rojas para los instructores universitarios. Aprendió sobre cómo los prompts moldean los resultados, los patrones de oraciones que atraen escrutinio y cómo la confianza estilística genera dudas.
• Otra estudiante, después de ser falsamente acusada de usar IA, comenzó a estudiar herramientas de detección y se suscribió a múltiples servicios de IA para protegerse de futuras acusaciones.

El efecto cobra en acción

El artículo compara esto con el efecto cobra, donde el gobierno colonial británico en la India ofreció recompensas por cobras muertas para reducir la población, pero la gente comenzó a criar cobras para cobrar la recompensa. De manera similar, las herramientas de detección de IA diseñadas para prevenir el uso de IA se están convirtiendo en la razón por la que los estudiantes comienzan a usar IA.

El aparato de vigilancia ha convertido el talento para escribir en una responsabilidad, y los estudiantes se sienten como tramposos cuando simplemente intentan protegerse de acusaciones falsas.