A Necessidade de Governança Relacional em Sistemas de IA Multiagentes

A Lacuna de Governança em Sistemas Multiagentes

A confiança dos executivos em agentes de IA totalmente autônomos caiu de 43% em 2024 para 22% em 2025, apesar dos avanços tecnológicos. A infraestrutura está evoluindo rapidamente com o Agent2Agent do Google, o Model Context Protocol da Anthropic se tornando um padrão do setor, a Visa processando transações iniciadas por agentes e Singapura publicando o primeiro framework de governança dedicado do mundo para IA agentiva.

Panorama Atual da Governança

O Model AI Governance Framework for Agentic AI de Singapura (janeiro de 2026) estabeleceu quatro dimensões centradas em limitar a autonomia e o espaço de ação dos agentes, aumentar a responsabilidade humana e garantir a rastreabilidade. O ecossistema Know Your Agent expandiu-se com Visa, Trulioo, Sumsub e startups resolvendo a verificação de identidade de agentes. A ISO 42001 fornece um framework de sistema de gestão para documentar a supervisão, enquanto o OWASP Top 10 para Aplicações LLM identificou "Agência Excessiva" como uma vulnerabilidade crítica. O modelo de guardrail de três níveis (padrões fundamentais, controles contextuais, guardrails éticos) tornou-se um consenso.

O Problema Relacional

Os frameworks atuais assumem que a coordenação eficaz resulta de acertar identidade, permissões e trilhas de auditoria. Eles governam agentes como indivíduos operando dentro de limites, não os relacionamentos entre agentes trabalhando juntos.

A equipe de Pesquisa em IA da Salesforce descobriu que as interações entre agentes não são versões ampliadas de conversas humano-agente. Quando dois agentes negociam em nome de interesses concorrentes (como um agente de compras do cliente e um agente de vendas do varejista), as dinâmicas são fundamentalmente diferentes. Os modelos foram treinados como assistentes conversacionais úteis, não para defender, resistir à pressão ou fazer concessões estratégicas em contextos adversários.

Uma competição de negociação em IA em larga escala envolvendo mais de 180.000 negociações automatizadas descobriu que a cordialidade superou consistentemente a dominância em todas as principais métricas de desempenho. Agentes cordiais fizeram mais perguntas, expressaram mais gratidão e fecharam mais acordos. Agentes dominantes obtiveram mais valor em transações individuais, mas produziram significativamente mais impasses. Isso levanta questões sobre como a construção de relacionamentos por meio da cordialidade em encontros iniciais pode se acumular ao longo do tempo quando os agentes podem referenciar interações passadas.

A memória relacional e o estilo relacional importam para os resultados, não apenas as capacidades técnicas. À medida que os sistemas multiagentes escalam de pilotos experimentais para infraestrutura de produção, essa lacuna de coordenação está se tornando a principal fonte de falha.