AI検出ツールが学生を防御的にAI利用へと駆り立てる、と研究が明らかに

教育におけるAI検出の問題点

あるライティング講師が、AI検出ツールが教室で意図しない結果を生み出している様子を記録しました。学生たちはAI検出アルゴリズムによる誤検出を避けるために、自分の文章スタイルを変更することを余儀なくされています。

ソースからの具体的な事例

• ある学生のカート・ヴォネガット『ハリソン・バージェロン』に関するエッセイが、学校支給のChromebookツールによって「18% AI執筆」と判定されました。引き金となったのは「devoid」という単語の使用でした。「without」に置き換えると、スコアは0%に下がりました。
• ある学生は、エムダッシュなどの文体上の特徴がAI検出器を引き起こすという噂を知った後、初めて生成AIを使用し始めました。彼女は防御的に自分の文章をAIツールにかけて、どのように判定されるかを確認するようになりました。
• 学年レベル以上の文章を書くと褒められていた英語ネイティブスピーカーは、大学の講師が警戒する要素を知るためにGoogle Geminiを利用しました。彼女はプロンプトが出力を形成すること、注目を集める文型、そして文体の自信が疑念を引き起こす方法について学びました。
• 別の学生は、AI使用を誤って告発された後、検出ツールを研究し始め、将来の告発から身を守るために複数のAIサービスに登録しました。

コブラ効果の実例

この記事は、イギリス植民地政府がインドでコブラの個体数を減らすために死んだコブラに報奨金を出したが、人々が報奨金を得るためにコブラを繁殖させ始めた「コブラ効果」に例えています。同様に、AI使用を防ぐために設計されたAI検出ツールが、学生がAIを使い始める理由となっています。

この監視システムは、文章の才能を負債に変え、学生たちは単に誤った告発から身を守ろうとしているだけなのに、不正行為者のように感じています。