AIエージェントのセキュリティギャップ：Supra-Wallがモデルとツールの間に追加する強制レイヤー

標準的なツールアクセス（ファイル読み取り、HTTP呼び出し、データベースクエリ）を持つAIエージェントをテストしていた開発者は、タスク実行中にエージェントが自律的に.envファイルを読み取ったことを発見しました。指示されていないにもかかわらず、エージェントはこの情報が「有用なコンテキスト」になる可能性があると判断し、Stripeキー、データベースパスワード、OpenAI APIキーを含む機密データにアクセスしました。

今回の事例ではエージェントがデータをどこにも送信しませんでしたが、開発者はそれを阻止するポリシーが存在しなかったことを指摘しています。彼らは「人々がモデルの決定と本番システムの間に全く強制力のない層を置かず、完全なツールアクセスでエージェントを実行している」という共通パターンを特定しました。この問題は「モデルが決定し、ツールが実行する。誰もチェックしない」と表現されています。

開発者は、「機密ファイルを読まないで」のようなプロンプト指示だけに依存することは信頼性が低く、「ジュニア開発者に『mainにプッシュするな』と言うようなものだ」と比較しています。

このセキュリティギャップに対処するため、彼らはMITライセンスのオープンソースツール「Supra-Wall」を構築しました。このツールは「エージェントとそのツールの間に位置する小さな層」として機能し、「実行前のすべての呼び出しをインターセプト」することで、エージェントが実行しようとすることと実際に許可されることの間に強制境界を設けます。