위키백과, AI 생성 콘텐츠 금지 및 인간 검토를 통한 제한적 AI 사용 허용

위키백과는 AI가 생성한 백과사전 항목을 금지하는 새로운 정책을 시행했으며, 인간의 감독 하에 제한적으로 AI 사용을 허용합니다.

정책 세부 사항

위키미디어 재단의 주력 사이트는 ChatGPT와 같은 대규모 언어 모델을 사용하여 백과사전 콘텐츠를 생성하는 것을 편집자들에게 금지하는 정책을 승인했습니다. 이 금지는 중재자들 사이의 수개월간의 논의 끝에 자원봉사자들의 40대 2 투표로 승인되었습니다.

위키백과 지도자들은 AI 생성 텍스트에 대한 몇 가지 구체적인 우려를 제기했습니다:

• 검증 가능성과 중립성의 핵심 원칙 위반
• AI 환각이 허구의 사실을 만들어냄
• 깨진 링크와 어디로도 연결되지 않는 참조
• 부정확하거나 가짜 인용
• 과도하게 사용된 구문과 진부한 표현
• 장황한 설명과 갑작스러운 스타일 전환

허용된 AI 사용

새로운 정책에 따라 위키백과의 26만 명 편집자들은 다음과 같은 특정 방식으로 여전히 AI를 사용할 수 있습니다:

• 다른 언어로 된 글 번역
• 사소한 원고 편집 제안

모든 변경 사항은 인간이 검토해야 하며, AI 지원을 통해 새로운 정보를 도입할 수 없습니다.

탐지 및 시행

위키백과는 작년에 편집자들이 AI 글쓰기를 발견하는 데 도움이 되는 봇 탐지 지침을 개발했습니다. WikiProject AI 정화팀의 창립 멤버인 자원봉사 편집자 일리야스 르블뢰는 의심스러운 글들이 종종 "위키백과에서 일반적으로 보던 스타일과 일치하지 않는 스타일"을 가지고 있다고 지적했습니다. 의심되는 사례는 다른 편집자들이 검토하며, 이들은 의문스러운 콘텐츠에 대해 이의를 제기하거나 수정하거나 제거할 수 있습니다.

배경 및 영향

위키백과 공동 창립자 지미 웨일스는 현재의 AI 모델을 신뢰할 수 없다고 평가했으며, 10월에 이 상황을 "혼란"이라고 묘사하며 이 기술이 인간 편집자를 대체할 준비가 되지 않았다고 경고했습니다. 이 정책 변화는 ChatGPT 트래픽이 위키백과의 월간 페이지 방문 수를 초과하고, 2024년 대비 2025년 말 인간 페이지 조회수가 8% 감소하는 가운데 이루어졌습니다.

새로운 지침 작성에 도움을 준 르블뢰는 404Media에 AI 생성 글의 증가가 편집자들에게 관리 불가능해졌으며, "신중한 낙관론을 고수하던 사람들이 진정한 걱정으로 돌아섰다"고 말했습니다. 그는 위키백과의 결정이 더 넓은 반성을 시작할 수 있다고 경고하며, "도미노 효과를 예상하며, 다른 플랫폼의 커뮤니티가 AI를 자신들의 조건에 맞게 환영할지 여부를 결정할 수 있도록 권한을 부여할 것"이라고 말했습니다.