사이버 범죄자들, 지하 포럼에서 AI 생성 콘텐츠에 반발하다

ChatGPT가 출시된 2022년부터 2024년 말까지 사이버 범죄 포럼에서 97,895개의 AI 관련 대화를 분석한 연구에 따르면, 생성형 AI 콘텐츠에 대한 반감이 커지고 있습니다. 에든버러 대학, 케임브리지 대학, 스트래스클라이드 대학의 연구자들은 Hack Forums와 같은 포럼에서 회원들이 기본 보안 개념에 대한 '글머리 기호 설명'과 일반적인 AI 생성 답변을 게시하는 것에 대해 불평하는 반발을 관찰했습니다.

주요 발견

• 사회적 혼란: 에든버러 대학의 보안 연구원 Ben Collier는 이 포럼이 '본질적으로 사회적 공간'이며 사용자들이 평판을 쌓는 곳이라고 지적합니다. AI 게시물은 기술에 대한 주장을 약화시키고 우정 형성을 방해합니다.
• 직접적인 불만: 인용문에는 '많은 회원들이 글/게시물을 작성할 때 AI를 사용하는 것을 보고 짜증납니다'와 'AI 쓰레기 게시 중단'이 포함됩니다. 한 사용자는 'AI 챗봇과 대화하고 싶다면 그런 웹사이트가 많습니다. 저는 인간과의 상호작용을 위해 여기에 옵니다'라고 썼습니다.
• 질 대 양: 하위 수준 사이버 범죄자들이 AI 생성 콘텐츠를 덤핑하여 '저품질 게시물'과 자동화된 설명으로 포럼을 넘치게 하여 기존 회원들을 짜증나게 합니다.
• 평판 게임: 신규 사용자들이 AI를 사용하여 화려하지만 얕은 콘텐츠를 게시함으로써 평판을 부풀리며, 이로 인해 경험 많은 사용자들로부터 불신을 받습니다.
• 엘리트 회의론: Flashpoint의 VP Ian Gray는 정교한 위협 행위자들이 '포럼이나 마켓플레이스에서 AI 생성 프로젝트에 대해 신중하다'며 상용 모델의 가드레일 약점과 잠재적 인프라 노출을 인지하고 있다고 말합니다.

맥락

일부 조직화된 사기범들은 현실적인 얼굴 변환, 번역, 코드 생성을 위해 AI를 사용하지만, 하위 계층 해킹 커뮤니티는 AI 쓰레기를 포럼 문화에 대한 위협으로 간주합니다. 연구는 또한 구글의 AI 검색 개요가 포럼 트래픽을 줄이고 있다는 우려를 지적합니다. 한 익명 댓글러는 '아무도 이것을 요구하지 않았습니다. 우리는 여러분이 사이트를 개선하고 새로운 기능에 대해 요금을 부과하지 않기를 바랍니다'라고 말했습니다.