YouTube, AI 스팸 '유령 크리에이터' 채널 20개 폐쇄

유튜브는 'AI로 강화된 유령 제작자' 네트워크와 연결된 20개 채널을 삭제했습니다. 이 계정들은 AI가 생성한 대본을 인간 배우가 읽는 방식으로 선정적인 정치 영상을 제작해 광고 수익을 얻었습니다. 이 조치는 Semafor와 Riddance AI 연구진의 조사에 따른 것으로, 네트워크의 배후로 유튜버이자 '성장 해커'인 Caleb Chan을 밝혀냈습니다.

네트워크의 운영 방식

Chan에 따르면, 이 네트워크는 97명의 '뉴스 앵커, 편집자, 각본가'를 둔 '현대 미디어 스튜디오'로 운영되었습니다. 이 채널들은 캘리포니아 주지사 개빈 뉴섬, 뉴욕 시장 조란 맘다니 등 민주당 정치인에 대한 과열되고 종종 부정확한 공격 영상을 제작했습니다. 콘텐츠는 당파적 분노를 부추기고 참여를 유도해 유튜브 광고 시스템을 통해 수익을 창출하도록 설계되었습니다.

유튜브의 조치

유튜브는 Semafor에 보낸 성명에서 "스팸 및 사기 행위에 대한 엄격한 정책을 가지고 있습니다. 검토 후, 스팸 정책 위반으로 20개 채널(이 기사에 언급된 13개 및 관련 채널 7개 포함)을 삭제했습니다."라고 밝혔습니다.

목요일까지 대부분의 채널은 접근할 수 없게 되었습니다. 일부는 규칙 위반으로 삭제되었다는 메시지를 표시했고, 다른 채널은 소유자가 삭제하거나 콘텐츠를 제거했습니다.

Chan의 변호

Chan은 보고서의 세부 내용을 확인했지만 자신의 운영을 상업적이 아닌 이념적이라고 규정했습니다. 그는 Semafor의 보도를 "히트 피스"라고 부르며 자신의 채널이 "맘다니 같은 위선적 사회주의자들에 대한 상세한 폭로를 공유했다"고 덧붙였습니다.

AI 생성 콘텐츠에 미치는 영향

이 사례는 AI 생성 콘텐츠와 플랫폼 정책 사이의 증가하는 긴장을 보여줍니다. 유튜브는 많은 경우 AI 생성 콘텐츠를 허용하지만, 사기 행위와 스팸을 엄격히 금지합니다. 이번 조치는 플랫폼이 AI를 사용해 콘텐츠 생산을 인위적으로 확장하는 네트워크를 적극적으로 찾고 있음을 시사합니다.

AI 기반 콘텐츠 도구를 개발하는 개발자에게 이는 경고입니다: 인간의 감독 없이(또는 오해를 불러일으키는 프레이밍으로) 규모를 확장하면 전체 네트워크가 금지될 수 있습니다. 항상 콘텐츠가 플랫폼 정책을 준수하고 필요한 경우 AI 관련 사실을 명확히 공개해야 합니다.