KI-Erkennungstools veranlassen Studierende, KI defensiv einzusetzen, so eine Studie

Das Problem mit KI-Erkennung in der Bildung

Ein Schreibdozent dokumentierte, wie KI-Erkennungstools unbeabsichtigte Folgen in Klassenzimmern verursachen. Schüler werden gezwungen, ihren Schreibstil zu ändern, um falsch-positive Ergebnisse von KI-Erkennungsalgorithmen zu vermeiden.

Konkrete Fälle aus der Quelle

• Der Aufsatz eines Schülers über Kurt Vonneguts Harrison Bergeron wurde von einem schulischen Chromebook-Tool als „18 % KI-geschrieben“ markiert. Der Auslöser war die Verwendung des Wortes „devoid“. Als es durch „without“ ersetzt wurde, sank die Bewertung auf 0 %.
• Eine Schülerin begann erst mit generativer KI zu arbeiten, nachdem sie erfahren hatte, dass stilistische Merkmale wie Gedankenstriche angeblich KI-Erkenner auslösen. Sie begann defensiv ihre eigenen Texte durch KI-Tools laufen zu lassen, um zu sehen, wie sie bewertet würden.
• Eine muttersprachliche Englischsprecherin, die für ihr überdurchschnittliches Schreiben gelobt worden war, wandte sich an Google Gemini, um zu erfahren, was bei College-Dozenten Alarm auslöst. Sie lernte über die Gestaltung von Eingabeaufforderungen, Satzmuster, die Aufmerksamkeit erregen, und wie stilistische Sicherheit Zweifel weckt.
• Eine andere Schülerin begann nach einer falschen Beschuldigung, KI verwendet zu haben, Erkennungstools zu studieren und abonnierte mehrere KI-Dienste, um sich vor künftigen Vorwürfen zu schützen.

Der Kobra-Effekt in Aktion

Der Artikel vergleicht dies mit dem Kobra-Effekt, bei dem die britische Kolonialregierung in Indien Kopfgeld für tote Kobras anbot, um die Population zu reduzieren, aber die Leute begannen, Kobras zu züchten, um das Kopfgeld zu kassieren. Ähnlich werden KI-Erkennungstools, die zur Verhinderung von KI-Nutzung entwickelt wurden, zum Grund, warum Schüler anfangen, KI zu nutzen.

Der Überwachungsapparat hat Schreibtalent zu einer Belastung gemacht, wobei Schüler sich wie Betrüger fühlen, obwohl sie nur versuchen, sich vor falschen Anschuldigungen zu schützen.