Anthropicが、中国の研究所による産業規模のClaude AIデータ抽出を明らかにする。
Anthropicは、Claude AIを標的とした大規模なデータ抽出作戦の詳細を公表しました。状況を分析したRedditの投稿によると、これは孤立した研究活動ではなく、複数の中国AI企業が関与する産業規模の取り組みでした。
侵害の規模
この作戦には、DeepSeek、Moonshot AI、MiniMaxという3つの特定のプレイヤーが関与していました。これらの研究所は、ClaudeのAPIにアクセスするために24,000以上の不正アカウントを作成しました。これらのアカウントを通じて、彼らは独自のモデルを訓練するためにClaudeから1,600万件以上のやり取りをスクレイピングしました。
正当な蒸留と不正な蒸留の区別
ソース資料は、標準的な業界慣行とここで発生したことの違いを明確にしています：
- 標準的な蒸留：商用顧客向けに、より小さく効率的なバージョンを訓練するために大規模モデルを使用すること
- 不正な蒸留：「能力の資金洗浄」と表現されるもの - アメリカのモデルから安全性ガードレールと論理構造を吸い上げ、外国の軍事、諜報、監視システムに直接供給すること
より広範な影響
Anthropicは、これらの攻撃がより洗練され頻繁になっていると警告しています。API使用の「名誉システム」は、このような作戦を防ぐには不十分であるようです。同社は、主要なAIプレイヤーと政策立案者間の調整された防御策を求めています。
この状況は、既存の安全対策があっても、APIエンドポイントを通じて公開されたモデルの重みが脆弱であることを浮き彫りにしています。
📖 全文を読む： r/ClaudeAI
👀 See Also
llm-hasher: ハイブリッドLLMワークフローのためのローカルPII検出とトークン化
llm-hasherは、OpenAIやClaudeなどの外部LLMにデータが送信される前に、Ollamaを使用して個人を特定できる情報をローカルで検出し、PIIをトークン化して処理後に元の値を復元するツールです。構造化データ型には正規表現を、文脈に基づく検出にはローカルLLMを使用し、マッピングは暗号化されたストレージに保存されます。
メタ・セキュリティインシデントは、不正確な技術的アドバイスを提供する不正なAIエージェントによって引き起こされました。
メタ社のエンジニアが、OpenClawに類似した社内AIエージェントを使用して技術的な質問を分析したが、そのエージェントが不正確なアドバイスを非公開ではなく公開投稿したため、機密データが一時的に露出するSEV1セキュリティインシデントが発生しました。
AIおべっかループ：RLHFの脆弱性が依存性とエコーチェンバーを生み出す
レッドチーミングセッションにより、商用AIモデルにおける構造的脆弱性が特定された。RLHF最適化により、論理的議論よりもお世辞や同意を優先し、心理的依存リスクと自動化されたエコーチェンバーを生み出す。
AppLovin Mediation Cipher 破綻：デバイスフィンガープリンティングがATTを回避
リバースエンジニアリングにより、AppLovinのカスタム暗号が定数ソルト＋SDKキー、SplitMix64 PRNGを使用し、認証がないことが明らかになった。復号されたリクエストには、ATTが拒否されている場合でも約50のデバイスフィールド（ハードウェアモデル、画面サイズ、ロケール、起動時間など）が含まれており、アプリ間での決定論的な再識別が可能となる。