Anthropicは、中国のAI研究所によるClaudeへの産業規模の蒸留攻撃を報告しています。

産業規模のモデル抽出作戦

Anthropicは、3つの中国AI研究所によるClaudeへの協調的な蒸留攻撃の詳細をまとめた調査結果を公開しました。この攻撃には、大規模なAPIインタラクションを通じてClaudeの推論能力を抽出するために、大規模な不正アカウントの作成が含まれていました。

Anthropicの報告書からの主な攻撃詳細

• DeepSeek、Moonshot、MiniMaxが24,000以上の不正アカウントを作成
• Claudeとの総やり取り回数は1,600万回を超える
• MiniMaxだけで1,300万件のリクエストを実行
• Anthropicが新モデルをリリースすると、MiniMaxは24時間以内にトラフィックのほぼ半分をリダイレクト
• DeepSeekは特に思考連鎖と検閲安全な回答を標的にした
• 研究所が手法を適応させるにつれ、攻撃は時間とともに洗練度を増した

AI開発者へのセキュリティ的示唆

この事例は、数十億ドル規模の研究所が体系的に独自の能力を抽出しようとする際のAIモデルセキュリティの脆弱性を浮き彫りにしています。複数の組織にまたがり、新モデルリリースに適応するこれらの攻撃の規模と持続性は、これが孤立した事例ではなく、継続的な脅威ベクトルを表していることを示唆しています。

使用された手法（不正アカウント作成、特定能力のための標的クエリ、新モデルバージョンへの迅速な適応）は、他のAIシステムに対しても複製される可能性があり、開発者がワークフローに統合するサードパーティAIツールのセキュリティに疑問を投げかけています。