美国防部网络安全顾问：中国AI企业对美国企业发动恶意蒸馏活动

米国防総省のクリンガー・コーエン法（CSA）オフィスは、中国のAI企業による米国のAI企業に対する悪意ある蒸留キャンペーンを詳述したサイバーセキュリティ勧告を発表しました。2026年9月8日に公開されたPDFレポートは、これらのキャンペーンがAIシステムを悪用してモデルの重みや独自の知識を抽出する方法を概説しています。

レポートの重要ポイント

• キャンペーンの標的： この勧告は、OpenAI、Anthropic、Googleなど、米国の主要なAI企業を蒸留攻撃の主要な標的として挙げています。
• 手法： 攻撃者はAPIアクセスを使用して、ターゲットのモデルに繰り返しプロンプトを送り、生成された出力を使用して競合モデルをトレーニングします。これにより、許可なく蒸留された知識を効果的に盗み取ります。
• 具体的なエクスプロイト： レポートは、レート制限がない/v1/completionsエンドポイントの脆弱性を引用し、モデル抽出攻撃を可能にしています。また、PyTorchやHugging Faceのtransformersなどのオープンソースフレームワークがサプライチェーン侵害の可能性があると指摘しています。
• 緩和策： 差分プライバシーの実装、出力への透かし追加、APIコールへの厳格なレート制限の実施などの推奨事項が含まれています。

この勧告は、影響について議論しているHNスレッドに続くもので、現在18ポイント、17コメントがあります。多くのコメント投稿者は、蒸留はAIコミュニティで既知のリスクであるが、中国政府関連機関によるキャンペーンとして公式に米国政府機関が言及したのはこれが初めてであると指摘しています。

このレポートには、侵害の技術的指標と推奨される検出メカニズム（異常なAPI呼び出し量や出力分布の異常の監視など）が含まれています。また、企業はモデルアクセスログを監査して、蒸留試行と一致するパターンを検出することを推奨しています。

AI APIを使用する開発者にとって、これは独自モデルを保護するための堅牢なログ記録と異常検出の必要性を強調しています。