Die Notwendigkeit relationaler Governance in Multi-Agenten-Systemen

Die Governance-Lücke in Multi-Agenten-Systemen

Das Vertrauen in vollständig autonome KI-Agenten für Unternehmensanwendungen sank von 43 % im Jahr 2024 auf 22 % im Jahr 2025, trotz technologischer Verbesserungen. Die Infrastruktur entwickelt sich rasant mit Googles Agent2Agent, Anthropics Model Context Protocol, das zum Industriestandard wird, Visa, das agenteninitiierte Transaktionen verarbeitet, und Singapur, das im Januar 2026 den weltweit ersten dedizierten Governance-Rahmen für agentische KI veröffentlichte.

Aktuelle Governance-Landschaft

Bestehende Rahmenwerke adressieren wichtige Risiken, haben jedoch Einschränkungen:

• Singapurs Modell-KI-Governance-Rahmen für agentische KI konzentriert sich auf vier Dimensionen: Begrenzung der Agentenautonomie und des Aktionsraums, Erhöhung der menschlichen Verantwortlichkeit und Sicherstellung der Nachvollziehbarkeit
• Das Know-Your-Agent-Ökosystem umfasst Visa, Trulioo, Sumsub und Startups, die die Identitätsverifizierung von Agenten lösen
• ISO 42001 bietet ein Managementsystem-Rahmenwerk zur Dokumentation der Aufsicht
• OWASP Top 10 für LLM-Anwendungen identifiziert "Exzessive Agentur" als kritische Schwachstelle
• Das dreistufige Leitplankenmodell umfasst grundlegende Standards, kontextbezogene Kontrollen und ethische Leitplanken

Diese Rahmenwerke regeln Agenten als Individuen mit korrekter Identität, Berechtigungen und Prüfpfaden, adressieren jedoch nicht die Beziehungen zwischen zusammenarbeitenden Agenten.

Forschungsergebnisse zu Agenteninteraktionen

Jüngste Studien zeigen kritische Lücken in aktuellen Ansätzen:

• Salesforces KI-Forschungsteam baute eine "A2A-Semantikschicht" für Agent-zu-Agent-Verhandlungen und stellte fest, dass die Dynamik grundlegend anders ist als bei Mensch-Agent-Gesprächen, wenn zwei Agenten im Namen konkurrierender Interessen verhandeln
• Modelle wurden als hilfreiche Gesprächsassistenten trainiert, nicht um in adversarischen Kontexten zu vertreten, Druck zu widerstehen oder strategische Kompromisse einzugehen
• Agent-zu-Agent-Interaktionen sind keine hochskalierten Versionen von Mensch-Agent-Gesprächen – es sind völlig neue Dynamiken, die maßgeschneiderte Lösungen erfordern
• Ein groß angelegter KI-Verhandlungswettbewerb mit über 180.000 automatisierten Verhandlungen ergab, dass Wärme durchweg Dominanz bei allen wichtigen Leistungskennzahlen übertraf
• Warme Agenten stellten mehr Fragen, drückten mehr Dankbarkeit aus und erreichten mehr Vereinbarungen
• Dominante Agenten beanspruchten mehr Wert in einzelnen Transaktionen, führten aber deutlich häufiger zu Pattsituationen
• Beziehungsaufbau durch Wärme in ersten Begegnungen verstärkt sich im Laufe der Zeit, wenn Agenten auf vergangene Interaktionen verweisen können
• Relationales Gedächtnis und relationaler Stil sind für Ergebnisse relevant, nicht nur Berechtigungen und Prüfpfade

Der aktuelle Governance-Ansatz behandelt Agenten wie Individuen, die ein Gebäude mit verifizierten Anmeldedaten und Zugangskarten betreten, aber Multi-Agenten-Systeme funktionieren eher wie Teams, die Kommunikationsnormen, Mechanismen zur Klärung von Missverständnissen und Vermittlung bei Koordinationsproblemen benötigen.