Professor baut KI-Erkennungs-Bias-Spiel mit Claude Code

Projektübersicht

Ein vollständiger Professor an einer britischen Universität entwickelte Flagged, ein browserbasiertes Spiel, das die Erfahrung der Nutzung von KI-Erkennungstools für studentische Einreichungen simuliert. Der Professor forscht zu KI-Erkennung in der Bildung und schuf diese interaktive Demonstration, um zu zeigen, wie abstrakte Statistiken über falsch-positive Ergebnisse konkret werden, wenn Spieler Entscheidungen treffen, die simulierte Studierende betreffen.

Spielmechanik

Spieler übernehmen die Rolle eines Assistenzprofessors, dessen Universität zwölf studentische Einreichungen durch ein KI-Erkennungstool laufen ließ. Jede Einreichung erhält einen Wahrscheinlichkeitswert. Die Spieler müssen entscheiden, ob sie die Einreichung zur Untersuchung markieren oder sie durchlassen. Optional können sie vor der Entscheidung die Datei jedes Studierenden öffnen, die Informationen über dessen Studiengang, Hintergrund und Umstände enthält.

Der entscheidende Lerneffekt tritt ein, wenn Spieler feststellen, dass sie nach dem Lesen der Studierendendateien andere Entscheidungen treffen als wenn sie nur den Erkennungswert betrachten. Wie der Professor bemerkt: "Jede Markierung trifft eine echte Person."

Technische Umsetzung

Das gesamte Projekt wurde mit Claude Code erstellt und besteht aus einer einzigen HTML-Datei mit reinem JavaScript und CSS. Es gibt keine Frameworks oder Abhängigkeiten. Claude Code schrieb jede Codezeile basierend auf dem Design und der Spiel-Logik des Professors.

Entwicklungseinblicke

Der Professor berichtete, dass der schwierigste Teil der Nutzung von Claude Code nicht das Programmieren selbst war, sondern Claude dazu zu bringen, zu verstehen, dass das Spiel die Spieler unwohl fühlen lassen muss. Der Professor musste wiederholt gegen Claudes Tendenz ankämpfen, Ergebnisse abzumildern oder beruhigende Sprache hinzuzufügen. Der Professor betonte: "Der ganze Punkt ist, dass es keine beruhigende Sprache gibt, wenn man einen Studierenden fälschlicherweise markiert."

Bildungskontext

Das Spiel behandelt Forschungsergebnisse, die zeigen, dass KI-Erkennungstools falsch-positive Raten von bis zu 61,3 % für Nicht-Muttersprachler des Englischen produzieren. Der Professor merkte an, dass diese Statistik zwar besorgniserregend ist, sie aber nicht "bei den Leuten so ankommt, wie sie sollte", bis sie den Entscheidungsprozess selbst erleben.

Das Spiel ist live und kostenlos spielbar unter https://samillingworth.itch.io/flagged.