Профессор создает игру для выявления предвзятости ИИ с помощью кода Claude.

Обзор проекта

Профессор из британского университета создал Flagged — браузерную игру, которая моделирует опыт использования инструментов обнаружения ИИ для студенческих работ. Профессор исследует обнаружение ИИ в образовании и создал эту интерактивную демонстрацию, чтобы показать, как абстрактная статистика о ложных срабатываниях становится конкретной, когда игроки принимают решения, влияющие на виртуальных студентов.

Механика игры

Игроки берут на себя роль доцента, в университете которого двенадцать студенческих работ были проверены инструментом обнаружения ИИ. Каждая работа получает оценку вероятности. Игроки должны решить, отметить ли работу для дальнейшего расследования или пропустить её. При желании они могут открыть файл каждого студента перед принятием решения, где содержится информация о программе обучения, происхождении и обстоятельствах студента.

Ключевой обучающий момент наступает, когда игроки обнаруживают, что принимают разные решения после прочтения файлов студентов по сравнению с ситуацией, когда они видят только оценку обнаружения. Как отмечает профессор: «Каждая отметка ложится на реального человека».

Техническая реализация

Весь проект был создан с помощью Claude Code и состоит из одного HTML-файла с ванильным JavaScript и CSS. Никаких фреймворков или зависимостей нет. Claude Code написал каждую строку кода на основе дизайна и игровой логики профессора.

Инсайты разработки

Профессор сообщил, что самой сложной частью использования Claude Code была не сама разработка, а необходимость добиться от Claude понимания, что игра должна вызывать у игроков дискомфорт. Профессору пришлось неоднократно возражать против склонности Claude смягчать исходы или добавлять успокаивающие формулировки. Профессор подчеркнул: «Весь смысл в том, что нет никаких успокаивающих слов, когда ты ошибочно отмечаешь студента».

Образовательный контекст

Игра затрагивает исследования, показывающие, что инструменты обнаружения ИИ выдают до 61,3% ложных срабатываний для тех, для кого английский не является родным языком. Профессор отметил, что хотя эта статистика вызывает беспокойство, она не «доходит до людей так, как должна», пока они не испытают процесс принятия решений на собственном опыте.

Игра доступна в режиме онлайн и бесплатна для игры по адресу https://samillingworth.itch.io/flagged.