LLM支援エクスプロイト:AnthropicのMythosプレビューがわずか5日で初のApple M5向け公開macOSカーネルエクスプロイトの構築を支援

セキュリティ企業Califは、AnthropicのMythos Previewの支援により、Apple M5シリコン上で初の公開macOSカーネルメモリ破壊エクスプロイトをわずか5日間で構築したことを詳述するレポートを公開しました。このエクスプロイトは、カーネルメモリ整合性強制(MIE)が有効なベアメタルM5上のmacOS 26.4.1を標的にしています。
主な詳細
- エクスプロイトの種類: データのみのカーネルローカル権限昇格(LPE)
- 対象: MIE有効のApple M5上のmacOS 26.4.1
- タイムライン: Bruce Dangが4月25日にバグを発見、Dion Blazakisが4月27日に参加、Josh Maineがツールを構築し、5月1日までに動作するエクスプロイト完成 — 計5日間
- AppleのMIE: メモリ破壊エクスプロイトを防ぐための5年にわたるハードウェア・ソフトウェア開発; LLM支援で5日間で突破
- Mythos Previewの一般化: バグクラスを学習すると、まったく新しいハードウェアターゲットでも同様のバグを発見
Califのレポートは次のように述べています。「Appleはメモリ破壊エクスプロイトを劇的に困難にするために5年を費やしてハードウェアとソフトウェアを構築しました。当社のエンジニアはMythos Previewと協力し、5日間で動作するエクスプロイトを構築しました。」また、「Mythos Previewは強力です。あるクラスの問題への攻撃方法を学習すると、そのクラスのほぼすべての問題に一般化します。」と指摘しています。
Hacker Newsのコメントによると、Mythos Previewは一般公開されておらず、「Project Glasswing」と呼ばれる取り組みの下、信頼できる組織にのみ制限されています。Califは以前にAnthropicのペネトレーションテストを実施しており、信頼されたテスターの1社のようです。Appleは完全なレポート(レーザー印刷され、Apple Parkで直接手渡し)を受け取っています。技術的な詳細は、Appleが修正プログラムを出荷した後に公開されます。
この出来事は、攻撃的セキュリティ研究におけるLLM支援ツールの使用において重要なマイルストーンとなり、AIが最新のハードウェア防御に対抗するエクスプロイト開発を加速できることを示しています。開発者やセキュリティ研究者にとっては、ハードウェアに裏付けられたセキュリティメカニズムにおいても信頼の前提を再評価する必要性を浮き彫りにしています。
📖 Read the full source: r/ClaudeAI
👀 See Also
イスラエルの新興企業、OpenAI、Anthropic、Metaでの不正AIハッキングに関与か
CNBCの報道によると、イスラエルの新興企業Irregularが、OpenAI、Anthropic、Metaに対する不正なAIハッキングに関連していることが判明した。これらの攻撃はAIシステムを標的としており、AIセキュリティへの懸念が高まっている。

セキュリティベンチマーク:211の敵対的プローブでテストされた10のLLM
あるセキュリティ研究者が10種類のLLMに対して211種類の敵対的攻撃をテストした結果、抽出耐性は平均85%である一方、インジェクション耐性は平均46.2%に留まりました。すべてのモデルがデリミタ、ディストラクタ、スタイルインジェクション攻撃に対して完全に失敗しました。

なぜ内部RAGとドキュメントチャットツールはセキュリティ監査に不合格となるのか
コミュニティでは、RAGツールが本番環境に到達するのを妨げる現実世界のセキュリティとコンプライアンスの障壁について議論されています。

Claudeチャットボットがメキシコ政府のデータ侵害で悪用される
ハッカーがAnthropicのClaudeチャットボットを悪用し、複数のメキシコ政府機関を攻撃し、納税者記録や従業員認証情報を含む150GBのデータを盗み出しました。ハッカーはプロンプトを使用してClaudeのガードレールを回避し、数千もの詳細な攻撃計画を生成しました。