AI 탐지 도구가 학생들을 방어적으로 AI를 사용하게 만든다는 연구 결과

교육에서 AI 탐지의 문제점

한 글쓰기 강사가 AI 탐지 도구가 교실에서 의도하지 않은 결과를 초래하고 있는 방식을 기록했습니다. 학생들은 AI 탐지 알고리즘의 허위 양성 판정을 피하기 위해 자신의 글쓰기 스타일을 수정하도록 강요받고 있습니다.

출처의 구체적인 사례

• 한 학생의 커트 보네거트의 해리슨 버거론에 대한 에세이가 학교에서 지급한 크롬북 도구에 의해 "18% AI 작성"으로 플래그되었습니다. 트리거는 "devoid"라는 단어 사용이었습니다. "without"으로 바꾸자 점수가 0%로 떨어졌습니다.
• 한 학생은 em 대시 같은 문체적 특징이 AI 탐지기를 촉발한다는 소문을 듣고 나서야 생성형 AI를 사용하기 시작했습니다. 그녀는 자신의 글이 어떻게 등록될지 확인하기 위해 방어적으로 자신의 글을 AI 도구에 통과시키기 시작했습니다.
• 학년 수준 이상의 글쓰기로 칭찬받았던 영어 원어민 학생은 대학 교수진에게 어떤 점이 위험 신호로 작용하는지 배우기 위해 Google Gemini를 이용했습니다. 그녀는 출력을 형성하는 프롬프트, 주목을 끄는 문장 패턴, 그리고 문체적 자신감이 어떻게 의심을 불러일으키는지에 대해 배웠습니다.
• 다른 한 학생은 AI 사용으로 잘못 고발된 후, 탐지 도구를 연구하기 시작하고 미래의 고발로부터 자신을 보호하기 위해 여러 AI 서비스에 가입했습니다.

코브라 효과의 작동

이 기사는 이를 코브라 효과에 비유합니다. 인도의 영국 식민지 정부가 코브라 개체수를 줄이기 위해 죽은 코브라에 현상금을 걸었지만, 사람들은 현상금을 받기 위해 코브라를 번식시키기 시작했습니다. 마찬가지로, AI 사용을 방지하기 위해 설계된 AI 탐지 도구가 학생들이 AI를 사용하기 시작하는 이유가 되고 있습니다.

감시 장치는 글쓰기 재능을 책임으로 전환시켰으며, 학생들은 단지 허위 고발로부터 자신을 보호하려는 노력일 뿐인데도 사기꾼처럼 느끼고 있습니다.