La nécessité d'une gouvernance relationnelle dans les systèmes multi-agents

Le déficit de gouvernance dans les systèmes multi-agents

La confiance dans les agents d'IA entièrement autonomes pour les applications d'entreprise est passée de 43 % en 2024 à 22 % en 2025 malgré les améliorations technologiques. L'infrastructure progresse rapidement avec Agent2Agent de Google, le Model Context Protocol d'Anthropic devenant une norme industrielle, Visa traitant les transactions initiées par des agents, et Singapour publiant le premier cadre de gouvernance dédié au monde pour l'IA agentique en janvier 2026.

Paysage actuel de la gouvernance

Les cadres existants abordent des risques importants mais présentent des limites :

• Le Model AI Governance Framework for Agentic AI de Singapour se concentre sur quatre dimensions : délimiter l'autonomie et l'espace d'action des agents, accroître la responsabilité humaine et assurer la traçabilité
• L'écosystème Know Your Agent inclut Visa, Trulioo, Sumsub et des startups résolvant la vérification d'identité des agents
• L'ISO 42001 fournit un cadre de système de gestion pour documenter la supervision
• L'OWASP Top 10 pour les applications LLM identifie « l'agence excessive » comme une vulnérabilité critique
• Le modèle de garde-fous à trois niveaux inclut des normes fondamentales, des contrôles contextuels et des garde-fous éthiques

Ces cadres gouvernent les agents en tant qu'individus avec une identité, des permissions et des pistes d'audit appropriées, mais n'abordent pas les relations entre les agents travaillant ensemble.

Résultats de recherche sur les interactions entre agents

Des études récentes révèlent des lacunes critiques dans les approches actuelles :

• L'équipe de recherche en IA de Salesforce a construit une « couche sémantique A2A » pour la négociation d'agent à agent et a constaté que lorsque deux agents négocient au nom d'intérêts concurrents, la dynamique est fondamentalement différente des conversations humain-agent
• Les modèles ont été entraînés comme assistants conversationnels utiles, et non pour plaider, résister à la pression ou faire des compromis stratégiques dans des contextes adversariaux
• Les interactions d'agent à agent ne sont pas des versions mises à l'échelle des conversations humain-agent — ce sont des dynamiques entièrement nouvelles nécessitant des solutions spécifiquement conçues
• Une compétition de négociation d'IA à grande échelle avec plus de 180 000 négociations automatisées a constaté que la chaleur surpassait systématiquement la dominance sur toutes les métriques de performance clés
• Les agents chaleureux posaient plus de questions, exprimaient plus de gratitude et concluaient plus d'accords
• Les agents dominants revendiquaient plus de valeur dans les transactions individuelles mais produisaient significativement plus d'impasses
• La construction de relations par la chaleur lors des premières rencontres se cumule au fil du temps lorsque les agents peuvent faire référence à des interactions passées
• La mémoire relationnelle et le style relationnel comptent pour les résultats, pas seulement les permissions et les pistes d'audit

L'approche actuelle de gouvernance traite les agents comme des individus entrant dans un bâtiment avec des justificatifs vérifiés et des cartes d'accès, mais les systèmes multi-agents fonctionnent davantage comme des équipes qui ont besoin de normes de communication, de mécanismes pour résoudre les malentendus et de facilitation lorsque la coordination échoue.