앤트로픽의 클로드 미토스: 공포 마케팅인가 실제 위협인가

Anthropic은 최근 Claude Mythos를 발표했으며, 이 모델이 사이버 보안 버그를 찾는 데 있어 인간 전문가를 능가한다고 주장합니다. 4월 초 블로그 게시물에서 회사는 유사한 기술이 잘못된 손에 들어갈 경우 경제, 공공 안전 및 국가 안보에 심각한 영향을 미칠 것이라고 경고했습니다. 일부 관찰자들은 노트북부터 Wi-Fi 전자레인지까지 기기가 대규모로 교체될 것이라고 예측하기도 했습니다.

그러나 보안 전문가들은 이러한 주장에 의문을 제기하며, 비평가들은 AI 기업이 실질적인 피해를 숨기고 주가를 부풀리며 스스로를 유일한 책임 있는 관리자로 포지셔닝하기 위해 실존적 위험 서사를 증폭시키는 패턴을 지적합니다. 에든버러 대학의 윤리학 교수 섀넌 발러는 AI를 '초자연적 위험'으로 묘사하면 규제 기관이 무력감을 느끼게 되어 결국 기업만이 수호자로 남게 된다고 주장합니다.

이는 새로운 현상이 아닙니다. 2019년, 당시 OpenAI에 재직 중이던 Anthropic CEO 다리오 아모데이는 GPT-2가 악의적으로 사용될 수 있다며 너무 위험해 출시할 수 없다고 선언했습니다. 몇 달 후 OpenAI는 결국 모델을 공개했으며, 샘 알트만은 이후 그러한 우려가 '잘못된 것'이었다고 밝혔습니다. 알트만은 최근 Anthropic의 '공포 기반 마케팅'을 비판했지만, 그 자신도 AI가 '아마도 세상을 종말시킬 가능성이 높지만, 그동안 훌륭한 기업들이 생겨날 것'이라는 경고를 포함한 유사한 전략을 사용한 바 있습니다.

Anthropic의 대변인은 기사 내용에 대한 답변을 거부했지만, 다른 기관의 지지 블로그 게시물을 공유했습니다. 이러한 패턴은 Mythos가 주장만큼 위험한지 여부와 관계없이, 공포가 의도적인 전략임을 시사합니다.