AI의 브로커노믹스: Anthropic의 신화/우화 수출 금지 혼란

Ed Zitron의 AI's Brokenomics는 Anthropic이 '너무 위험하다'고 여겼던 Mythos 모델을 Fable이라는 이름으로 가드레일을 장착해 출시한 후, 연구원들이 며칠 만에 이를 탈옥시키면서 미국 수출 통제를 받게 된 혼란을 다룹니다. 기사를 바탕으로 무슨 일이 일어났는지 설명합니다.

타임라인

• Anthropic은 '너무 강력해서 출시할 수 없다'고 설명된 LLM인 Claude Mythos를 발표했습니다. 6월 2일 15개국 150개 조직에 출시되었습니다.
• 6월 9일, Mythos는 Fable이라는 이름으로 가드레일과 함께 출시되었습니다.
• Amazon 연구원들이 며칠 만에 Fable을 탈옥시키면서, Amazon CEO Andy Jassy와 다른 익명의 회사들이 국가 안보 위험을 이유로 미국 상무부에 신고했습니다.
• 트럼프 행정부는 비미국 시민의 Mythos 및 Fable 접근을 금지하는 수출 통제를 부과했고, Anthropic에 90분 내에 모델을 롤백하도록 명령했습니다.

주요 기술적 세부 사항

• Fable은 생물학 무기와 사이버 보안 주제를 차단하지만, 탈옥이 이러한 가드레일을 우회했습니다.
• Anthropic은 '범용 탈옥'은 발견되지 않았고 특정 우회 방법만 있었다고 주장했습니다. 자사의 안전장치가 너무 강력해서 '많은 사용자들이 지나치게 광범위하다고 불평한다'고 밝혔습니다.
• 익명의 연구원 Pliny The Liberator도 모델의 보안 프로토콜을 무너뜨렸습니다.
• Davi Ottenheimer는 Mythos의 시스템 카드를 분석하며, 이 모델이 단순히 더 큰 LLM으로서 LLM용 테스트에서 더 높은 점수를 받은 것일 뿐, 자기 개선이나 AGI와는 관련이 없다고 주장했습니다.

여파

Anthropic은 화상 회의가 실패한 후, 워싱턴 D.C.에 선임 기술 인력을 파견하여 트럼프 행정부와 협상 중입니다. 수출 통제 명령은 미국 내외의 모든 비미국 시민이 모델에 접근하는 것을 금지하여 사실상 전역에서 모델을 비활성화시켰습니다.

기사는 Anthropic이 수년간 AI 위험을 과장하여 조직이 프리미엄 액세스 비용을 지불하도록 유도했으며, 이번 규제 역풍은 그 전략의 자연스러운 결과라고 시사합니다.