マルチエージェントAIシステムにおける関係性ガバナンスの必要性

マルチエージェントシステムにおけるガバナンスのギャップ

技術の進歩にもかかわらず、完全自律型AIエージェントに対する経営陣の信頼度は、2024年の43%から2025年には22%に低下しました。インフラは急速に進化しており、GoogleのAgent2Agent、AnthropicのModel Context Protocolが業界標準となりつつあり、Visaはエージェント主導の取引を処理し、シンガポールは世界初のエージェント型AI専用ガバナンスフレームワークを発表しました。

現在のガバナンスの状況

シンガポールのエージェント型AIモデルAIガバナンスフレームワーク（2026年1月）は、エージェントの自律性と行動範囲の制限、人間の説明責任の強化、トレーサビリティの確保という4つの次元を確立しました。Know Your Agentエコシステムは、Visa、Trulioo、Sumsub、およびエージェントの本人確認を解決するスタートアップによって拡大しています。ISO 42001は、監督を文書化するための管理システムフレームワークを提供し、OWASP Top 10 for LLM Applicationsは「過剰な自律性」を重大な脆弱性として特定しました。3層のガードレールモデル（基礎的基準、文脈的制御、倫理的ガードレール）は、コンセンサスの考え方となっています。

関係性の問題

現在のフレームワークは、効果的な調整はアイデンティティ、権限、監査証跡を適切にすることから生じると想定しています。それらは、境界内で動作する個人としてのエージェントを統治しますが、協力して働くエージェント間の関係を統治していません。

セールスフォースのAI研究チームは、エージェント間の相互作用が、人間とエージェントの会話を拡大したものではないことを発見しました。2つのエージェントが競合する利害関係（顧客の買い物エージェントと小売業者の販売エージェントなど）を代表して交渉する場合、その力学は根本的に異なります。モデルは、敵対的な文脈で主張したり、圧力に抵抗したり、戦略的なトレードオフを行ったりするのではなく、役立つ会話アシスタントとして訓練されました。

18万件以上の自動交渉を含む大規模なAI交渉コンペティションでは、すべての主要なパフォーマンス指標において、温かみが一貫して支配を上回りました。温かいエージェントはより多くの質問をし、より多くの感謝を表現し、より多くの取引を成立させました。支配的なエージェントは個々の取引でより多くの価値を主張しましたが、はるかに多くの行き詰まりを生み出しました。これは、初期の出会いにおける温かみを通じた関係構築が、エージェントが過去の相互作用を参照できる場合、時間の経過とともにどのように複合効果をもたらすかについての疑問を提起します。

関係的記憶と関係的スタイルは、技術的能力だけでなく、結果にも重要です。マルチエージェントシステムが実験的なパイロットから本番インフラに拡大するにつれて、この調整のギャップが失敗の主要な原因となっています。