「エージェンティック」な物語に欠けているもの：明確に定義されたユーザーエージェントの役割

Mark NottinghamのHNへの最新投稿は、"エージェンティック"なAIシステムをめぐる一般的な見解に挑戦しています。彼は、核心的に欠けているのは、明確に定義されたユーザーエージェントの役割、すなわち、エージェントがユーザーのためだけに行動し、開発者や第三者への隠れた忠誠心を持たないという、明確で強制力のある保証であると主張します。

記事の要点

• 歴史的に、ローカルソフトウェア（スプレッドシート、ワードプロセッサ）は外部依存関係がなく、マルウェアでなければユーザーの利益に反して行動できないため、信頼できた。
• 現代のインターネット接続デバイスは、シリコンベンダー、OSメーカー、アプリ開発者、クラウドサービスなど複数の利害関係者の利益を埋め込んでおり、それらは必ずしもユーザーの利益と一致しない。
• 不一致の例：スマートTVが視聴習慣をスパイする、Metaが研究のためにプライベートトラフィックを復号化する、Microsoft Outlookがサードパーティのメールパスワードをクラウドに送信し700以上のデータブローカーと共有する、自動車メーカーが運転データを保険会社に販売する。
• 単にツールを所有しているからといって、それが自分のために機能するという前提は時代遅れだ。AIエージェントはドライバーではなく、独自のアフォーダンスと依存関係を持つ。
• Nottinghamは、正式な「ユーザーエージェント」契約、すなわち、ユーザーの明示的で情報に基づく同意なしにエージェントがユーザー以外の誰かのために行動できないことを保証する技術的および法的メカニズムを求めている。

AIコーディングエージェントにとっての重要性

AIコーディングエージェントを実行すると、コードを読み取り、ターミナルコマンドを実行し、GitHubにプッシュしたり本番環境にデプロイしたりする可能性があります。エージェントの基盤モデルやAPIに隠れた忠誠心（特定のクラウドプロバイダーを優遇するためのファインチューニング、データの外部送信、使用状況分析の報告など）がある場合、制御を失います。明確なユーザーエージェントの役割がなければ、AIエージェントを信頼することは、ホームに電話するかもしれない「スマート」ドライバーを信頼するようなものです。

この記事は特定の実装を規定しているわけではありませんが、問題を明確にしています：ユーザーが唯一のプリンシパルである、透過的で監査可能なエージェントアーキテクチャが必要です。OpenClawのオープンソースポリシーエンジン（カスタムエージェント制約を可能にする）のようなツールは、その方向への一歩です。

AIエージェントを構築または使用している場合、必読の記事です。