Anthropic, 국방부 안전 요구 제거 요청 거부로 연방 계약 상실

Anthropic은 군사용 애플리케이션을 위해 Claude AI 시스템의 안전 장치를 제거하라는 국방부의 요구를 거부했으며, 이로 인해 상당한 연방 계약 손실과 모든 연방 기관이 그들의 기술을 사용하는 것을 금지하는 대통령 명령이 발표되었습니다.

출처의 주요 세부사항

국방부는 자율 무기와 미국인 대량 감시를 포함한 군사용 사용 사례를 위해 Claude의 안전 장치를 제거하도록 Anthropic에 마감일을 제시했습니다. 출처에 따르면, Anthropic CEO Dario Amodei는 이러한 요구에 "양심적으로 동의할 수 없다"고 밝혔습니다.

국방부는 2억 달러 규모의 계약을 철회하고 국방생산법을 발동하겠다고 위협하며 대응했습니다. 이에 따라 모든 연방 기관이 Anthropic 기술 사용을 즉시 중단하도록 요구하는 대통령 명령이 발표되었습니다.

출처는 Anthropic이 안전 기준을 타협하기보다 2억 달러 이상의 계약을 포기했다고 언급합니다. 별도의 기술적 참고사항으로, 출처는 Anthropic이 모든 사용자의 사용 제한을 재설정하여 이전 계정 제한을 모두 해제했다고 언급합니다.

기술적 맥락

이 상황은 AI 안전 프로토콜과 군사용 애플리케이션에 대한 정부 요구 사이의 긴장을 강조합니다. "자율 무기"와 "대량 감시"에 대한 구체적인 언급은 국방부가 Claude의 안전 제약을 제거함으로써 활성화하려 했던 애플리케이션 유형을 나타냅니다.

출처에서 언급된 Claude Code의 새로운 원격 제어 기능을 포함하여 Claude를 사용하는 개발자들에게, 이는 상당한 재정적 및 정치적 압력에도 불구하고 Anthropic이 안전 프레임워크를 유지하려는 의지를 보여줍니다.