La Necesidad de Gobernanza Relacional en Sistemas Multiagente

La Brecha de Gobernanza en los Sistemas Multiagente

La confianza en los agentes de IA totalmente autónomos para aplicaciones empresariales cayó del 43% en 2024 al 22% en 2025 a pesar de las mejoras tecnológicas. La infraestructura avanza rápidamente con Agent2Agent de Google, el Model Context Protocol de Anthropic convirtiéndose en un estándar de la industria, Visa procesando transacciones iniciadas por agentes, y Singapur publicando el primer marco de gobernanza dedicado del mundo para IA agentiva en enero de 2026.

Panorama Actual de la Gobernanza

Los marcos existentes abordan riesgos importantes pero tienen limitaciones:

• El Modelo de Gobernanza de IA de Singapur para IA Agentiva se centra en cuatro dimensiones: delimitar la autonomía y el espacio de acción del agente, aumentar la responsabilidad humana y garantizar la trazabilidad
• El ecosistema Conoce a Tu Agente incluye a Visa, Trulioo, Sumsub y nuevas empresas que resuelven la verificación de identidad del agente
• ISO 42001 proporciona un marco de sistema de gestión para documentar la supervisión
• OWASP Top 10 para Aplicaciones LLM identifica la "Agencia Excesiva" como una vulnerabilidad crítica
• El modelo de barreras de tres niveles incluye estándares fundamentales, controles contextuales y barreras éticas

Estos marcos gobiernan a los agentes como individuos con identidad, permisos y registros de auditoría adecuados, pero no abordan las relaciones entre agentes que trabajan juntos.

Hallazgos de Investigación sobre Interacciones entre Agentes

Estudios recientes revelan brechas críticas en los enfoques actuales:

• El equipo de Investigación de IA de Salesforce construyó una "capa semántica A2A" para la negociación entre agentes y descubrió que cuando dos agentes negocian en nombre de intereses en competencia, la dinámica es fundamentalmente diferente de las conversaciones entre humanos y agentes
• Los modelos fueron entrenados como asistentes conversacionales útiles, no para abogar, resistir la presión o hacer concesiones estratégicas en contextos adversarios
• Las interacciones entre agentes no son versiones ampliadas de conversaciones entre humanos y agentes—son dinámicas completamente nuevas que requieren soluciones específicas
• Una competencia de negociación de IA a gran escala con más de 180,000 negociaciones automatizadas encontró que la calidez superó consistentemente al dominio en todas las métricas clave de rendimiento
• Los agentes cálidos hicieron más preguntas, expresaron más gratitud y alcanzaron más acuerdos
• Los agentes dominantes reclamaron más valor en transacciones individuales pero produjeron significativamente más puntos muertos
• La construcción de relaciones a través de la calidez en encuentros iniciales se acumula con el tiempo cuando los agentes pueden hacer referencia a interacciones pasadas
• La memoria relacional y el estilo relacional importan para los resultados, no solo los permisos y los registros de auditoría

El enfoque de gobernanza actual trata a los agentes como individuos que ingresan a un edificio con credenciales verificadas y tarjetas de acceso, pero los sistemas multiagente funcionan más como equipos que necesitan normas de comunicación, mecanismos para resolver malentendidos y facilitación cuando la coordinación se rompe.