Anthropic의 DoD 회의와 중국 AI 연구소의 Claude 추출

국방부 회의: 정책 양보와 빨간 선

Anthropic CEO가 미국 국방부 장관과 만날 예정입니다. 국방부 고위 관계자는 Axios에 이번 회의가 단순한 인사 차원의 대화가 아니며, 분위기가 '제대로 하거나 떠나라'는 상황이라고 설명했습니다. 이는 1월에 Anthropic의 군사 사용 금지 정책에도 불구하고 Claude가 베네수엘라 작전 계획에 사용된 사실이 드러난 데 따른 것입니다.

Anthropic은 사용 정책을 완화하고 양보할 의사가 있는 것으로 보이지만, 두 가지 특정 분야에서는 입장을 굽히지 않고 있습니다: 미국 시민에 대한 대규모 감시와 인간 개입 없이 발사할 수 있는 자율 살상 무기 개발입니다.

Claude를 증류하는 중국 AI 연구소 적발

Anthropic은 최소 세 개의 중국 AI 기업이 대규모 모델 증류를 진행한 것을 적발했다고 발표했습니다. 이는 그들의 이용 약관을 위반하는 행위입니다. 해당 기업들과 그들의 요청 규모:

• DeepSeek: 약 150,000건의 요청
• Moonshot AI (Kimi 개발팀): 340만 건의 요청
• MiniMax: 1,300만 건 이상의 요청

이 캠페인들은 유사한 전략을 사용하여 사기 계정과 프록시 서비스를 통해 대규모로 Claude에 접근하면서 탐지를 회피했습니다. 그들의 프롬프트의 규모, 구조, 초점은 일반적인 사용이 아닌 의도적인 능력 추출의 명확한 패턴을 보여주었습니다.

Anthropic은 IP 주소, 요청 메타데이터, 인프라 지표를 연관시켜 이 연구소들을 높은 신뢰도로 식별했습니다. 일부 경우에는 업계 파트너들이 동일한 행위자들이 자신들의 플랫폼에서 동일한 행위를 하는 것을 확인했습니다.

이 캠페인들은 특히 Claude의 가장 진보된 기능, 즉 에이전트 추론, 도구 사용, 코딩 능력을 목표로 했습니다. Anthropic은 현재 증류 문제를 해결하기 위해 다른 AI 연구소, 클라우드 제공업체, 관련 당국에 기술적 발견 사항을 공유하고 있습니다.