Verstehen der KI-Agenten-Architektur: Deterministische vs. probabilistische Schichten

Ein Reddit-Nutzer auf r/openclaw teilte ein mentales Modell zum Verständnis von KI-Agentensystemen, das zwischen deterministischen und probabilistischen Schichten unterscheidet. Dieser Rahmen hilft zu erklären, warum manche Agenten-Setups instabil oder inkonsistent wirken.

Die Zwei-Schichten-Architektur

Der Nutzer beschreibt Agentensysteme als Systeme mit zwei unterschiedlichen Arten von Schichten:

Deterministische Schicht

Diese Schicht übernimmt traditionelle Computeraufgaben, bei denen derselbe Eingang immer denselben Ausgang erzeugt. Beispiele aus der Quelle umfassen:

• Python-Skripte
• Linux-Befehle
• APIs
• Datenbanken
• Dateioperationen
• Cron-Jobs / Scheduler

Wie der Nutzer anmerkt: „Wenn ein Skript python scrape_news.py ausführt, macht der Computer genau das. Keine Kreativität im Spiel.“

Probabilistische Schicht

Diese Schicht ist die LLM-Komponente, die inhärent unscharf ist und jedes Mal möglicherweise andere Denkpfade einschlägt. Das LLM übernimmt Aufgaben wie:

• Interpretation der Benutzerwünsche
• Entscheidung, welches Werkzeug zu nutzen ist
• Planung von Schritten
• Zusammenfassung von Ergebnissen
• Auswahl der nächsten Aktion

Wie die Schichten interagieren

Laut Quelle folgt die Architektur diesem Ablauf:

Benutzer / Ereignis → LLM entscheidet, was zu tun ist → Code führt es aus → Ergebnisse gehen zurück zum LLM → nächste Entscheidung

Der Nutzer beschreibt dies als: „Das LLM ist im Grunde der Planer, während die Skripte und Werkzeuge die Muskeln sind.“

Zentrale Erkenntnis: Verlagerung von Arbeit auf die deterministische Seite

Die Hauptrealisierung des Nutzers war: „Gute Agentensysteme versuchen, möglichst viel Arbeit auf die deterministische Seite zu verlagern.“

Man möchte nicht, dass ein LLM Aufgaben übernimmt, die deterministischer Code hervorragend bewältigt, wie zum Beispiel:

• JSON parsen
• Berechnungen durchführen
• Dinge zählen
• Status verwalten

Der Nutzer schlussfolgert: „Das LLM sollte hauptsächlich Schlussfolgerungen und Entscheidungen übernehmen, der Rest sollte von deterministischen Werkzeugen erledigt werden.“

Dieses mentale Modell half dem Nutzer zu verstehen, warum manches Agentenverhalten inkonsistent erschien – oft lag es an unnötiger Abhängigkeit von der probabilistischen Schicht für Aufgaben, die besser für deterministischen Code geeignet sind.