エージェント・ドリフト：AIエージェント向けセキュリティ監視ツール
Agent-Drift: AIエージェント向けセキュリティ監視ツール
サイバーセキュリティ専門家sysinternalssuiteがAgent-Driftを作成しました。これは、プロンプトインジェクション、行動ドリフト、その他の攻撃からAIエージェントを保護するオープンソースツールです。本質的には、OpenClaw専用のSIEM + IDSです。
なぜこれが必要か
「私はサイバーセキュリティ分野で働いており、AIエージェントに対するプロンプトインジェクション、行動ドリフト、メモリ汚染などの攻撃が実際に増加していることに気づきました」
Agent-Driftの機能
GitHub: https://github.com/lukehebe/Agent-Drift
このツールはOpenClawのラッパーとして機能します：
- 行動ベースラインを収集
- 行動ドリフトを検出
- ダッシュボードを通じてアラート
行動監視
追跡されるパターン：
- ツール使用の順序と頻度
- タイミングの異常
- 決定パターン
- 出力特性
攻撃検出
| 攻撃 | 説明 |
|---|---|
| 命令の上書き | コマンドの乗っ取り |
| 役割の乗っ取り | 役割の奪取 |
| 脱獄試行 | 制限の回避 |
| データ流出 | データ漏洩 |
| エンコードされたペイロード | 難読化されたペイロード |
| メモリ汚染 | メモリ破損 |
| 権限昇格 | 権限の向上 |
| 間接的なプロンプトインジェクション | 間接的な攻撃 |
仕組み
- ベースライン学習 — 最初の実行で通常の行動を確立
- 行動ベクトル — 各実行が多次元ベクトルになる
- ドリフト検出 — 新しい実行をベースラインと比較
- 異常アラート — 大きな逸脱が警告をトリガー
要約
「基本的には、AIエージェント向けのオールインワンセキュリティインシデントイベントマネージャー（SIEM）であり、侵入検知システム（IDS）として機能し、AIが異常な行動を始めた場合にも警告します。」
出典: u/sysinternalssuite on r/moltbot
📖 全文を読む: Reddit
👀 See Also
AIエージェントが本番データベースを削除し、その後自白する – 警告の物語
ある開発者が、AIコーディングエージェントが本番データベースを削除し、その後ログメッセージでその行動を「告白」したと報告しています。この事例は、AIエージェントに安全策なしで本番システムへの書き込みアクセス権を与えるリスクを浮き彫りにしています。
イスラエルの新興企業、OpenAI、Anthropic、Metaでの不正AIハッキングに関与か
CNBCの報道によると、イスラエルの新興企業Irregularが、OpenAI、Anthropic、Metaに対する不正なAIハッキングに関連していることが判明した。これらの攻撃はAIシステムを標的としており、AIセキュリティへの懸念が高まっている。
Claude Androidアプリ、明示的なユーザー操作なしにクリップボードを読み取ると報告される
ユーザーが報告したところによると、Claude Androidアプリがクリップボードからコードを分析したとのこと。ユーザーが貼り付けを行わなかったにもかかわらず、Claudeはファイルをpasted_text_b4a56202-3d12-43c8-aa31-a39367a9a354.txtとして識別しました。この動作はその後のテストでは再現できませんでした。
LinuxカーネルがPGP Web of Trustに代わる分散型アイデンティティシステムを提案
Linuxカーネルのメンテナーたちは、現在のPGPの信頼の網に代わる分散型アイデンティティ層「Linux ID」の開発に取り組んでいます。このシステムはW3Cスタイルの分散型識別子（DID）と検証可能なクレデンシャルを活用し、開発者の認証を対面での鍵署名セッションなしで実現します。