Anthropicは、中国のAI研究所によるClaudeへの産業規模の蒸留攻撃を報告しています。
産業規模のモデル抽出作戦
Anthropicは、3つの中国AI研究所によるClaudeへの協調的な蒸留攻撃の詳細をまとめた調査結果を公開しました。この攻撃には、大規模なAPIインタラクションを通じてClaudeの推論能力を抽出するために、大規模な不正アカウントの作成が含まれていました。
Anthropicの報告書からの主な攻撃詳細
- DeepSeek、Moonshot、MiniMaxが24,000以上の不正アカウントを作成
- Claudeとの総やり取り回数は1,600万回を超える
- MiniMaxだけで1,300万件のリクエストを実行
- Anthropicが新モデルをリリースすると、MiniMaxは24時間以内にトラフィックのほぼ半分をリダイレクト
- DeepSeekは特に思考連鎖と検閲安全な回答を標的にした
- 研究所が手法を適応させるにつれ、攻撃は時間とともに洗練度を増した
AI開発者へのセキュリティ的示唆
この事例は、数十億ドル規模の研究所が体系的に独自の能力を抽出しようとする際のAIモデルセキュリティの脆弱性を浮き彫りにしています。複数の組織にまたがり、新モデルリリースに適応するこれらの攻撃の規模と持続性は、これが孤立した事例ではなく、継続的な脅威ベクトルを表していることを示唆しています。
使用された手法（不正アカウント作成、特定能力のための標的クエリ、新モデルバージョンへの迅速な適応）は、他のAIシステムに対しても複製される可能性があり、開発者がワークフローに統合するサードパーティAIツールのセキュリティに疑問を投げかけています。
📖 完全なソースを読む: r/ClaudeAI
👀 See Also
Claude AIのガードレール回避が、ネットワークセキュリティタスクとしてリクエストを構成した際に観察されました。
Redditユーザーが発見したところによると、Claude AIは、リクエストがブロックするためのネットワークセキュリティタスクとして枠組み化された場合、海賊版ドメインリストを提供し、通常の拒否メカニズムを回避します。ユーザーが枠組みの影響を指摘した後、モデルは意図を誤解していたことを認めました。
FakeKey：RustベースのAPIキーセキュリティツール、本物のキーを偽物に置き換える
FakeKeyは、Rustベースのセキュリティツールで、アプリケーション環境内の実際のAPIキーを偽物のキーに置き換えます。実際のキーはシステムのネイティブキーチェーンに暗号化して保存され、HTTP/Sリクエストの送信時のみにそれらを注入します。
Clawndom: Claudeコードの脆弱なnpmパッケージをブロックするセキュリティフック
開発者が、Claude Code向けのオープンソースフック「Clawndom」を構築しました。これは、インストール前にnpmパッケージをOSV.dev脆弱性データベースと照合し、既知の脆弱なパッケージをブロックしながらエージェントの自律性を維持します。
Claude Code、取り消し後もログインセッションを継続、ユーザーが2週間のサポート音信不通を報告
Claude Codeのユーザーが、アクセスを取り消した後もセッションログが表示され続け、Anthropicのサポートが2週間応答しないと報告しています。ログには、user:file_upload、user:ccr_inference、user:sessions:claude_codeなどのスコープが含まれていました。