Professeur crée un jeu de détection des biais de l'IA avec Claude Code

Présentation du projet

Un professeur titulaire d'une université britannique a créé Flagged, un jeu en ligne qui simule l'expérience d'utilisation d'outils de détection d'IA sur les travaux d'étudiants. Le professeur, qui étudie la détection d'IA dans l'éducation, a conçu cette démonstration interactive pour montrer comment des statistiques abstraites sur les faux positifs deviennent concrètes lorsque les joueurs prennent des décisions affectant des étudiants simulés.

Mécaniques du jeu

Les joueurs endossent le rôle d'un professeur assistant dont l'université a soumis douze travaux d'étudiants à un outil de détection d'IA. Chaque soumission est accompagnée d'un score de probabilité. Les joueurs doivent décider s'ils signalent le travail pour enquête ou s'ils le valident. Ils peuvent optionnellement ouvrir le dossier de chaque étudiant avant de décider, lequel contient des informations sur le programme, le parcours et les circonstances de l'étudiant.

Le principal apprentissage survient lorsque les joueurs découvrent qu'ils prennent des décisions différentes après avoir lu les dossiers des étudiants par rapport à lorsqu'ils ne regardent que le score de détection. Comme le note le professeur : "Chaque signalement touche une vraie personne."

Implémentation technique

L'ensemble du projet a été développé avec Claude Code et consiste en un seul fichier HTML avec du JavaScript et du CSS natifs. Il n'y a aucun framework ni dépendance. Claude Code a écrit chaque ligne de code selon la conception et la logique de jeu du professeur.

Perspectives de développement

Le professeur a rapporté que la partie la plus difficile de l'utilisation de Claude Code n'était pas le codage en soi, mais faire comprendre à Claude que le jeu devait mettre les joueurs mal à l'aise. Le professeur a dû repousser à plusieurs reprises la tendance de Claude à adoucir les résultats ou à ajouter un langage rassurant. Le professeur a souligné : "Tout l'intérêt est qu'il n'y a pas de langage rassurant lorsque vous signalez à tort un étudiant."

Contexte éducatif

Le jeu aborde des recherches montrant que les outils de détection d'IA produisent des taux de faux positifs allant jusqu'à 61,3% pour les locuteurs non natifs de l'anglais. Le professeur a noté que bien que cette statistique soit préoccupante, elle ne "marque pas les gens comme elle le devrait" tant qu'ils n'ont pas vécu le processus décisionnel par eux-mêmes.

Le jeu est en ligne et gratuit à l'adresse https://samillingworth.itch.io/flagged.