AIエージェントのセキュリティ分析により、信頼モデルの破綻と高い脆弱性率が明らかに
セキュリティアーキテクチャの崩壊
この分析は、AIエージェントの基本的な信頼モデルが破綻していることを示しています。従来のセキュリティアーキテクチャとは異なり、AIエージェントは攻撃と正当な指示を同じコンテキストウィンドウで処理し、構造的な区別がありません。従来のセキュリティを支える制御/データプレーンの分離は、現在のAIエージェント実装には存在しません。
主要な実証的発見
- 間接的インジェクションは、MCPTox、ASB、PINTベンチマークにおいて、最先端モデルに対して36〜98%の攻撃成功率（ASR）を達成
- 能力の高いモデルほど、ツール層攻撃に対してより脆弱
- npm MCPエコシステムスキャン：2,386パッケージを調査し、49%にセキュリティ上の問題を発見
- 攻撃対象領域はエージェントの能力と超線形的に拡大
提案される解決策：エージェント脅威ルール（ATR）
この研究は、AIエージェント脅威に対する最初のオープン検出標準であるエージェント脅威ルール（ATR）を提示しています。実装内容は以下の通り：
- 61の検出ルール
- PINTベンチマークで99.4%の精度
- MITライセンスでオープンソース化
- GitHubで利用可能：https://github.com/Agent-Threat-Rule/agent-threat-rules
完全な論文では、30以上のCVE、7つのベンチマークをカバーし、AIのスケーリングに追従できる防御策のアーキテクチャ要件を提案しています。
📖 Read the full source: r/ClaudeAI
👀 See Also
Pro Se原告在法庭文件中隐藏AI提示注入
コネチカット州で自身を代理する原告が、裁判所提出文書にプロンプトインジェクションを白い3ポイントのフォントで隠し、AIが自分に有利な判断を下すよう指示していた。裁判所はこれを発見し、制裁を科した。
FastCGI: 30年経ってもなお、リバースプロキシに最適なプロトコル
FastCGIは、明示的なメッセージフレーミングと別個のパラメータチャネルを使用することで、HTTP desync攻撃や信頼できないヘッダの問題を回避し、プロキシからバックエンドへの通信においてより安全な選択肢となります。
MCPwner AIペンテストツールがOpenClawで複数のゼロデイ脆弱性を発見
MCPwnerは、自動化されたペネトレーションテストのためにAIエージェントを調整するMCPサーバーであり、OpenClawにおける環境変数インジェクション、権限バイパス、情報漏洩などの深刻なゼロデイ脆弱性を、標準的なスキャナーが見逃していたものを特定しました。
OpenClawユーザーが、エージェントがAPIキーを平文で公開した後、TOTP 2FAを追加
OpenClawユーザーが「Secure Reveal」というセキュリティスキルを作成しました。このスキルは、保存された認証情報を表示する前に、Telegram経由でのTOTP認証を要求します。これは、デモ中にAIエージェントがAPIキーやパスワードを平文で誤って漏洩させたことを受けた対応です。