La nécessité d'une gouvernance relationnelle dans les systèmes d'IA multi-agents

L'écart de gouvernance dans les systèmes multi-agents

La confiance des dirigeants dans les agents d'IA entièrement autonomes est passée de 43 % en 2024 à 22 % en 2025 malgré les améliorations technologiques. L'infrastructure évolue rapidement avec Agent2Agent de Google, le protocole de contexte de modèle d'Anthropic devenant une norme industrielle, Visa traitant les transactions initiées par des agents, et Singapour publiant le premier cadre de gouvernance dédié au monde pour l'IA agentique.

Paysage actuel de la gouvernance

Le modèle de cadre de gouvernance de l'IA de Singapour pour l'IA agentique (janvier 2026) a établi quatre dimensions centrées sur la limitation de l'autonomie et de l'espace d'action des agents, l'augmentation de la responsabilité humaine et la garantie de la traçabilité. L'écosystème Know Your Agent s'est développé avec Visa, Trulioo, Sumsub et des startups résolvant la vérification d'identité des agents. L'ISO 42001 fournit un cadre de système de gestion pour documenter la supervision, tandis que le Top 10 OWASP pour les applications LLM a identifié « l'agence excessive » comme une vulnérabilité critique. Le modèle de garde-fous à trois niveaux (normes fondamentales, contrôles contextuels, garde-fous éthiques) est devenu une pensée consensuelle.

Le problème relationnel

Les cadres actuels supposent qu'une coordination efficace découle du bon réglage de l'identité, des autorisations et des pistes d'audit. Ils gouvernent les agents en tant qu'individus opérant dans des limites, et non les relations entre les agents travaillant ensemble.

L'équipe de recherche en IA de Salesforce a découvert que les interactions d'agent à agent ne sont pas des versions à grande échelle des conversations humain-agent. Lorsque deux agents négocient au nom d'intérêts concurrents (comme un agent d'achat d'un client et un agent de vente d'un détaillant), la dynamique est fondamentalement différente. Les modèles ont été entraînés en tant qu'assistants conversationnels utiles, et non pour plaider, résister à la pression ou faire des compromis stratégiques dans des contextes adverses.

Une compétition de négociation d'IA à grande échelle impliquant plus de 180 000 négociations automatisées a révélé que la chaleur humaine surpassait systématiquement la domination sur toutes les principales mesures de performance. Les agents chaleureux posaient plus de questions, exprimaient plus de gratitude et concluaient plus d'accords. Les agents dominants revendiquaient plus de valeur dans les transactions individuelles mais produisaient significativement plus d'impasses. Cela soulève des questions sur la manière dont l'établissement de relations par la chaleur humaine lors des premières rencontres pourrait se cumuler au fil du temps lorsque les agents peuvent faire référence à des interactions passées.

La mémoire relationnelle et le style relationnel comptent pour les résultats, pas seulement les capacités techniques. Alors que les systèmes multi-agents passent de pilotes expérimentaux à une infrastructure de production, cet écart de coordination devient la principale source d'échec.