Multi-Agent-Systeme scheitern leise mit Müllausgaben und erfordern Metadatenvalidierung

Das Problem des stillen Versagens in Multi-Agenten-Systemen

Bei der Ausführung von Multi-Agenten-KI-Systemen ist der Standardfehlermodus nicht offensichtliche Fehler – es ist Stille. Nachgelagerte Agenten lehnen fehlerhafte Ausgaben von vorgelagerten Agenten nicht ab. Stattdessen verarbeiten sie diese selbstbewusst und geben Ergebnisse weiter, die völlig normal aussehen, wodurch das ursprüngliche Versagen unter mehreren Schichten scheinbar gültiger Verarbeitung begraben wird.

Praktisches Fehlerbeispiel

In einem vom Entwickler beschriebenen konkreten Fall:

• Ein Forschungsagent lief in eine Zeitüberschreitung und lieferte nur Teildaten zurück
• Ein Analyseagent füllte die Lücken mit Schlussfolgerungen (wie LLMs es natürlicherweise tun)
• Die endgültige Ausgabe war ein geschliffener, autoritativ wirkender Bericht mit erfundenen Datenpunkten, die nicht von echten zu unterscheiden waren

Die Lösung: Metadaten-Umschläge

Die Lösung sind nicht mehr Wiederholungsversuche. Es erfordert, dass Agenten deklarieren, was sie tatsächlich getan haben. Jeder Agent sollte seine Ausgabe in einen Metadaten-Umschlag verpacken, der enthält:

• Status der Aufgabenabschluss (Hast du die Aufgabe abgeschlossen?)
• Quellenanzahl (Wie viele Quellen hast du erreicht vs. wie viele du erreichen solltest?)

Der nächste Agent prüft diese Metadaten, bevor er verarbeitet. Dieser einfache Ansatz erkennt fast alles, obwohl Entwickler noch die richtige Granularität für diese Deklarationen herausfinden.

Dieser Ansatz behandelt ein kritisches Problem in Multi-Agenten-Systemen, bei dem Fehler still durch die Kette propagieren, was die Fehlersuche erschwert und potenziell irreführende Ergebnisse erzeugt, die legitim erscheinen.