Die Notwendigkeit relationaler Governance in Multi-Agenten-KI-Systemen

Die Governance-Lücke in Multi-Agenten-Systemen

Das Vertrauen von Führungskräften in vollständig autonome KI-Agenten sank trotz technologischer Verbesserungen von 43 % im Jahr 2024 auf 22 % im Jahr 2025. Die Infrastruktur entwickelt sich rasant mit Googles Agent2Agent, Anthropics Model Context Protocol, das zum Industriestandard wird, Visa, das agenteninitiierte Transaktionen verarbeitet, und Singapur, das den weltweit ersten speziellen Governance-Rahmen für agentische KI veröffentlichte.

Aktuelle Governance-Landschaft

Singapurs Modell-Governance-Rahmen für Agentische KI (Januar 2026) etablierte vier Dimensionen, die sich auf die Begrenzung der Agentenautonomie und des Aktionsraums, die Erhöhung der menschlichen Verantwortlichkeit und die Gewährleistung der Nachverfolgbarkeit konzentrieren. Das Know-Your-Agent-Ökosystem hat sich mit Visa, Trulioo, Sumsub und Startups erweitert, die die Agentenidentitätsprüfung lösen. ISO 42001 bietet ein Managementsystem-Rahmenwerk für die Dokumentation der Aufsicht, während OWASP Top 10 für LLM-Anwendungen "Exzessive Agentur" als kritische Schwachstelle identifizierte. Das dreistufige Schutzmodell (grundlegende Standards, kontextbezogene Kontrollen, ethische Leitplanken) hat sich als Konsensdenken etabliert.

Das Beziehungsproblem

Aktuelle Rahmenwerke gehen davon aus, dass effektive Koordination aus korrekter Identität, Berechtigungen und Prüfpfaden folgt. Sie regeln Agenten als Einzelpersonen, die innerhalb von Grenzen operieren, nicht die Beziehungen zwischen zusammenarbeitenden Agenten.

Das KI-Forschungsteam von Salesforce entdeckte, dass Interaktionen zwischen Agenten keine hochskalierten Versionen von Mensch-Agent-Gesprächen sind. Wenn zwei Agenten im Namen konkurrierender Interessen verhandeln (wie der Einkaufsagent eines Kunden und der Verkaufsagent eines Händlers), sind die Dynamiken grundlegend anders. Modelle wurden als hilfreiche Gesprächsassistenten trainiert, nicht um in adversarischen Kontexten zu vertreten, Druck zu widerstehen oder strategische Kompromisse einzugehen.

Ein groß angelegter KI-Verhandlungswettbewerb mit über 180.000 automatisierten Verhandlungen ergab, dass Wärme in allen wichtigen Leistungsmetriken durchweg Dominanz übertraf. Warme Agenten stellten mehr Fragen, äußerten mehr Dankbarkeit und erreichten mehr Vereinbarungen. Dominante Agenten beanspruchten mehr Wert in einzelnen Transaktionen, führten aber deutlich häufiger zu Sackgassen. Dies wirft Fragen auf, wie sich Beziehungsaufbau durch Wärme in ersten Begegnungen über die Zeit verstärken könnte, wenn Agenten auf vergangene Interaktionen verweisen können.

Beziehungsgedächtnis und Beziehungsstil sind für Ergebnisse relevant, nicht nur technische Fähigkeiten. Während sich Multi-Agenten-Systeme von experimentellen Pilotprojekten zu Produktionsinfrastruktur skalieren, wird diese Koordinationslücke zur Hauptfehlerquelle.