Verwaltung von KI-Agenten-Fehlern: Wiederholungslimits und Fehlerbudgets

Dies ist eine Fallstudie eines Teams, das 6 KI-Agenten in der Produktion betreibt, mit Fokus darauf, wie ihre Arbeitswarteschlange Fehlermodi jenseits einfacher Aufgabenverteilung handhabt.

Wichtiger Fehlervorfall und Lösung

Ein früher Vorfall betraf einen Agenten, der ein Ratenlimit erreichte, scheiterte, wiederholt wurde, erneut das Limit erreichte und diesen Zyklus 319 Mal wiederholte. Dies verbrauchte Stunden an Rechenleistung für eine Aufgabe, die niemals erfolgreich sein würde.

Die implementierte Lösung war ein 3-Streik-Fehlerbudget. Nach 3 Fehlern wird die Aufgabe als dauerhaft fehlgeschlagen markiert, anstatt erneut in die Warteschlange gestellt zu werden.

Weitere berücksichtigte Fehlermodi

• Agenten beanspruchen Aufgaben, werden aber still (behandelt mit Herzschlag-Timeouts)
• Agenten melden TASK_COMPLETE, ohne die Aufgabe tatsächlich abzuschließen (ein Selbstmeldungsproblem)
• Zwei Agenten greifen dieselbe Aufgabe ab (behandelt mit optimistischem Sperren)

Das Team merkt an, dass die 3-Streik-Regel im Nachhinein offensichtlich erscheint, aber brutal war, sie durch Erfahrung zu entdecken.