미국, 군사용 AI Claude 안전장치 제거 압박

미국 국방부는 자사가 현재 제한하고 있는 군사적 응용을 허용하기 위해 안트로픽의 클로드 AI 모델에서 윤리적 안전장치를 제거하도록 압력을 가하고 있습니다. 국방부 장관 피트 헥세스는 화요일 안트로픽 CEO 다리오 아모데이와 회담을 가졌으며, 회사에게 금요일까지 국방부의 조건에 동의하거나 제재를 받을 것이라고 통보했습니다.

협상의 주요 내용

원본 자료에 따르면:

국방부는 군사적 사용을 위해 클로드의 기능에 대한 "제한 없는 접근"을 원합니다.
안트로픽은 클로드가 대규모 감시나 인간의 입력 없이 살상이 가능한 자율 무기 시스템에 사용되는 것을 허용하는 데 저항해 왔습니다.
국방부는 안트로픽이 요구사항을 이행하지 않을 경우 계약을 취소하고 회사를 "공급망 위험"으로 지정하겠다고 위협했습니다.
국방부는 2025년 7월 안트로픽, 구글, 오픈AI 등 여러 AI 기업과 최대 2억 달러 규모의 계약을 체결했습니다.
이번 주까지 클로드는 군 기밀 시스템에서 허용된 유일한 AI 모델이었습니다.
국방부는 월요일 엘론 머스크의 xAI 챗봇을 기밀 시스템에서 사용할 수 있도록 하는 계약을 체결했습니다.
xAI와 오픈AI 모두 정부의 조건에 동의했으며, 오픈AI는 자사 모델이 "합법적인 모든 목적"에 사용되는 것을 허용했습니다.

배경 및 맥락

이번 회담은 지난달 미군이 베네수엘라 지도자 니콜라스 마두로 체포를 지원하기 위해 클로드를 사용했다는 보도에 이어 진행되었습니다. 도널드 트럼프 행정부는 미국이 글로벌 AI 군비 경쟁에서 승리할 것이라고 약속하며 AI를 군사 작전에 통합하려는 움직임을 보여왔습니다.

국방부 최고기술책임자(CTO) 에밀 마이클은 안트로픽이 "루비콘 강을 건너" 정부의 조건에 동의할 것을 공개적으로 촉구하며 다음과 같이 말했습니다: "누군가 정부, 미국 전쟁부로부터 돈을 벌고 싶다면, 그 안전장치는 합법적인 범위 내에서 우리의 사용 사례에 맞게 조정되어야 한다고 생각합니다."

안트로픽은 가장 안전을 중시하는 AI 기업으로 자리매김했으며, 더 강력한 AI 안전장치를 주창하는 정치행동위원회를 지원해 왔습니다. 회사는 여러 전직 바이든 측근을 고용했으며, 이는 올해 초 친(親)트럼프 벤처캐피털 회사가 안트로픽 투자에서 손을 떼는 데 기여한 것으로 알려졌습니다.

더 넓은 함의

국방부는 무인 드론 및 자동화 표적 시스템을 포함한 AI 기술에 수십억 달러를 투자해 왔습니다. 치명적 무력 사용을 위한 AI 의사결정에 관한 윤리적 논쟁은 더 이상 이론적이지 않으며, 우크라이나에서는 인간의 통제 없이 작동할 수 있는 반자율 드론이 사용되고 있습니다.

이 상황은 AI 기업의 윤리 지침과 군사적 응용에 대한 정부 요구 사이의 긴장을 부각시킵니다. AI 에이전트와 작업하는 개발자들에게는 모델 안전장치가 다양한 배포 환경 및 AI 사용을 규제하는 법적 체계와 어떻게 상호작용하는지에 대한 질문을 제기합니다.

📖 전체 원문 읽기: HN AI Agents