マルチエージェントシステムにおける関係的ガバナンスの必要性

マルチエージェントシステムにおけるガバナンスのギャップ

企業向けアプリケーションにおける完全自律型AIエージェントへの信頼度は、技術的な進歩にもかかわらず、2024年の43％から2025年には22％に低下しました。インフラは急速に進化しており、GoogleのAgent2Agent、AnthropicのModel Context Protocolが業界標準となりつつあり、Visaはエージェント主導の取引を処理し、シンガポールは2026年1月に世界初のエージェントAI専用ガバナンスフレームワークを発表しました。

現在のガバナンスの状況

既存のフレームワークは重要なリスクに対応していますが、限界があります：

• シンガポールのエージェントAI向けモデルAIガバナンスフレームワークは、エージェントの自律性と行動範囲の制限、人間の説明責任の強化、追跡可能性の確保という4つの次元に焦点を当てています
• Know Your Agentエコシステムには、Visa、Trulioo、Sumsub、およびエージェントの本人確認を解決するスタートアップが含まれています
• ISO 42001は、監督を文書化するためのマネジメントシステムフレームワークを提供します
• LLMアプリケーション向けOWASP Top 10は、「過剰な自律性」を重大な脆弱性として特定しています
• 3層のガードレールモデルには、基礎的な基準、文脈に応じた制御、倫理的ガードレールが含まれます

これらのフレームワークは、適切なアイデンティティ、権限、監査証跡を持つ個人としてエージェントを管理しますが、協力して働くエージェント間の関係には対応していません。

エージェント間相互作用に関する研究結果

最近の研究は、現在のアプローチにおける重要なギャップを明らかにしています：

• SalesforceのAI研究チームは、エージェント間交渉のための「A2Aセマンティックレイヤー」を構築し、競合する利害関係を代表する2つのエージェントが交渉する場合、その力学は人間とエージェントの会話とは根本的に異なることを発見しました
• モデルは、敵対的な文脈で主張したり、圧力に抵抗したり、戦略的なトレードオフを行ったりするのではなく、親切な会話アシスタントとして訓練されました
• エージェント間の相互作用は、人間とエージェントの会話を拡大したものではなく、専用に設計されたソリューションを必要とする全く新しい力学です
• 18万件以上の自動交渉を含む大規模なAI交渉コンペティションでは、温かさがすべての主要なパフォーマンス指標で支配性を一貫して上回りました
• 温かいエージェントはより多くの質問をし、より多くの感謝を表し、より多くの取引を成立させました
• 支配的なエージェントは個々の取引でより多くの価値を主張しましたが、はるかに多くの行き詰まりを生み出しました
• 最初の出会いでの温かさによる関係構築は、エージェントが過去の相互作用を参照できる場合、時間とともに複利効果を発揮します
• 関係的記憶と関係的スタイルは、権限や監査証跡だけでなく、結果にも重要です

現在のガバナンスアプローチは、エージェントを検証済みの資格証明書とアクセスカードを持って建物に入る個人のように扱いますが、マルチエージェントシステムは、コミュニケーション規範、誤解を解決するメカニズム、調整が崩れたときの促進を必要とするチームのように機能します。