A Necessidade de Governança Relacional em Sistemas Multiagentes

A Lacuna de Governança em Sistemas Multiagentes

A confiança em agentes de IA totalmente autônomos para aplicações empresariais caiu de 43% em 2024 para 22% em 2025, apesar das melhorias tecnológicas. A infraestrutura está avançando rapidamente com o Agent2Agent do Google, o Model Context Protocol da Anthropic se tornando um padrão do setor, a Visa processando transações iniciadas por agentes, e Cingapura publicando o primeiro framework de governança dedicado do mundo para IA agentiva em janeiro de 2026.

Panorama Atual da Governança

Os frameworks existentes abordam riscos importantes, mas têm limitações:

• O Model AI Governance Framework for Agentic AI de Cingapura foca em quatro dimensões: delimitar a autonomia e o espaço de ação do agente, aumentar a responsabilidade humana e garantir a rastreabilidade
• O ecossistema Know Your Agent inclui Visa, Trulioo, Sumsub e startups que resolvem a verificação de identidade do agente
• A ISO 42001 fornece um framework de sistema de gestão para documentar a supervisão
• OWASP Top 10 para Aplicações LLM identifica "Agência Excessiva" como uma vulnerabilidade crítica
• O modelo de guardrail de três níveis inclui padrões fundamentais, controles contextuais e guardrails éticos

Esses frameworks governam agentes como indivíduos com identidade, permissões e trilhas de auditoria adequadas, mas não abordam os relacionamentos entre agentes que trabalham juntos.

Descobertas de Pesquisa sobre Interações entre Agentes

Estudos recentes revelam lacunas críticas nas abordagens atuais:

• A equipe de pesquisa de IA da Salesforce construiu uma "camada semântica A2A" para negociação entre agentes e descobriu que, quando dois agentes negociam em nome de interesses concorrentes, a dinâmica é fundamentalmente diferente das conversas entre humanos e agentes
• Os modelos foram treinados como assistentes conversacionais úteis, não para defender, resistir à pressão ou fazer compensações estratégicas em contextos adversários
• As interações entre agentes não são versões ampliadas de conversas entre humanos e agentes—elas são dinâmicas totalmente novas que exigem soluções específicas
• Uma competição de negociação de IA em larga escala com mais de 180.000 negociações automatizadas descobriu que a cordialidade consistentemente superou a dominância em todas as principais métricas de desempenho
• Agentes cordiais fizeram mais perguntas, expressaram mais gratidão e fecharam mais acordos
• Agentes dominantes reivindicaram mais valor em transações individuais, mas produziram significativamente mais impasses
• A construção de relacionamentos através da cordialidade em encontros iniciais se acumula ao longo do tempo quando os agentes podem fazer referência a interações passadas
• A memória relacional e o estilo relacional importam para os resultados, não apenas permissões e trilhas de auditoria

A abordagem de governança atual trata os agentes como indivíduos que entram em um edifício com credenciais verificadas e cartões de acesso, mas os sistemas multiagentes funcionam mais como equipes que precisam de normas de comunicação, mecanismos para resolver mal-entendidos e facilitação quando a coordenação falha.