La Necesidad de Gobernanza Relacional en Sistemas de IA Multiagente

La brecha de gobernanza en los sistemas multiagente

La confianza de los ejecutivos en los agentes de IA totalmente autónomos cayó del 43% en 2024 al 22% en 2025 a pesar de las mejoras tecnológicas. La infraestructura avanza rápidamente con Agent2Agent de Google, el Protocolo de Contexto de Modelo de Anthropic convirtiéndose en un estándar de la industria, Visa procesando transacciones iniciadas por agentes y Singapur publicando el primer marco de gobernanza dedicado del mundo para la IA agentiva.

Panorama actual de la gobernanza

El Marco de Gobernanza de IA Modelo de Singapur para IA Agentiva (enero de 2026) estableció cuatro dimensiones centradas en delimitar la autonomía y el espacio de acción de los agentes, aumentar la responsabilidad humana y garantizar la trazabilidad. El ecosistema Conoce a Tu Agente se ha expandido con Visa, Trulioo, Sumsub y nuevas empresas que resuelven la verificación de identidad de los agentes. ISO 42001 proporciona un marco de sistema de gestión para documentar la supervisión, mientras que OWASP Top 10 para Aplicaciones LLM identificó la "Agencia Excesiva" como una vulnerabilidad crítica. El modelo de barrera de tres niveles (estándares fundamentales, controles contextuales, barreras éticas) se ha convertido en el pensamiento consensuado.

El problema relacional

Los marcos actuales asumen que una coordinación efectiva se deriva de acertar con la identidad, los permisos y los registros de auditoría. Gobiernan a los agentes como individuos que operan dentro de límites, no las relaciones entre agentes que trabajan juntos.

El equipo de Investigación de IA de Salesforce descubrió que las interacciones entre agentes no son versiones ampliadas de las conversaciones humano-agente. Cuando dos agentes negocian en nombre de intereses en competencia (como el agente de compras de un cliente y el agente de ventas de un minorista), la dinámica es fundamentalmente diferente. Los modelos fueron entrenados como asistentes conversacionales útiles, no para abogar, resistir presión o hacer concesiones estratégicas en contextos adversarios.

Una competencia de negociación de IA a gran escala que involucró más de 180,000 negociaciones automatizadas encontró que la calidez superó consistentemente al dominio en todas las métricas clave de rendimiento. Los agentes cálidos hicieron más preguntas, expresaron más gratitud y llegaron a más acuerdos. Los agentes dominantes reclamaron más valor en transacciones individuales pero produjeron significativamente más puntos muertos. Esto plantea preguntas sobre cómo la construcción de relaciones a través de la calidez en encuentros iniciales podría acumularse con el tiempo cuando los agentes pueden hacer referencia a interacciones pasadas.

La memoria relacional y el estilo relacional importan para los resultados, no solo las capacidades técnicas. A medida que los sistemas multiagente escalan de pilotos experimentales a infraestructura de producción, esta brecha de coordinación se está convirtiendo en la principal fuente de fallas.