中国AI企业对美国企业发动恶意蒸馏活动：美国国防部CSA

미국 국방부의 Clinger-Cohen Act(CSA) 사무소는 중국 AI 기업들이 미국 기반 AI 기업들을 대상으로 한 악성 증류(distillation) 캠페인에 대한 사이버 보안 권고를 발표했습니다. 2026년 9월 8일에 게시된 PDF 보고서는 이러한 캠페인이 AI 시스템을 악용하여 모델 가중치와 독점 지식을 추출하는 방법을 설명합니다.

보고서의 주요 내용

• 캠페인 대상: 이 권고는 OpenAI, Anthropic, Google 등 주요 미국 AI 기업들을 증류 공격의 주요 대상으로 지목합니다.
• 방법론: 공격자는 API 액세스를 사용하여 대상 모델을 반복적으로 프롬프트하여 출력을 생성하고, 이를 경쟁 모델을 훈련하는 데 사용하여 승인 없이 증류된 지식을 효과적으로 훔칩니다.
• 특정 취약점: 보고서는 rate limiting이 없는 /v1/completions 엔드포인트의 취약점을 언급하며, 이를 통해 모델 추출 공격이 가능하다고 지적합니다. 또한 PyTorch 및 Hugging Face의 transformers와 같은 오픈소스 프레임워크의 공급망 손상 가능성을 경고합니다.
• 완화 조치: 권장 사항에는 차등 프라이버시 구현, 출력 워터마킹 추가, API 호출에 대한 엄격한 rate limit 적용이 포함됩니다.

이 권고는 현재 18포인트와 17개의 댓글이 있는 HN 스레드에 이어 나왔습니다. 많은 댓글 작성자들은 증류가 AI 커뮤니티에서 알려진 위험임을 지적하지만, 미국 정부 기관이 그러한 캠페인을 중국 국가 지원 단체에 공식적으로 귀속시킨 것은 이번이 처음입니다.

이 보고서에는 침해 지표와 권장 탐지 메커니즘(예: 비정상적인 API 호출 볼륨 및 출력 분포의 이상 징후 모니터링)이 포함되어 있습니다. 또한 기업들이 증류 시도와 일치하는 패턴이 있는지 모델 액세스 로그를 감사할 것을 권고합니다.

AI API를 사용하는 개발자에게 이는 독점 모델을 보호하기 위해 강력한 로깅 및 이상 탐지의 필요성을 강조합니다.