Ihr Agent ist nicht das Modell: Harness vs. Inferenzdienst erklärt

Menschen sprechen oft über Claude, als wäre es eine einzelne Einheit, aber ein KI-Agent ist ein Stapel aus drei verschiedenen Schichten. Den Unterschied zu kennen spart Stunden beim Debuggen – wenn etwas schiefgeht, müssen Sie wissen, ob Sie dem Modell, dem Dienst oder der Logik darum die Schuld geben müssen.

Die drei Schichten

• Modell – die mathematische Funktion, die Eingabetoken in Ausgabetoken umwandelt. Beispiele: Sonnet, Opus, Gemini.
• Inferenzdienst – der gehostete Dienst, der das Modell ausführt und die Nutzung verfolgt. Beispiele: AWS Bedrock, Anthropics API.
• Harness – die Logik, die Eingaben formt, Ausgaben interpretiert und die Außenwelt berührt. Dazu gehören MCP und Skills – das Modell kennt sie nicht von Natur aus.

Zusammengefasst ist ein Agentensystem ein Harness, der einen Inferenzdienst aufruft, der ein Modell ausführt. Das ist alles.

Beispiele aus der Praxis

Dasselbe Modell (z.B. Sonnet) kann sich je nach Harness unterschiedlich verhalten – weil der Harness Eingaben formt und Ausgaben interpretiert. Deshalb funktionieren Ihre Prompts in Claude CLI, aber nicht in Cursor.

Debugging mit diesem mentalen Modell

• Schlechte Antworten? Schauen Sie auf den Harness – vielleicht liefert er nicht genug Kontext.
• Zu langsam oder teuer? Prüfen Sie den Inferenzdienst – Preis und Leistung liegen dort.
• Unerwartete Ausgabe? Ist das Modell falsch oder füttert der Harness es mit Müll?

Der Artikel stellt auch fest, dass mit zunehmender Intelligenz der Modelle einige Harness-Logiken (wie MCP oder Skills) überflüssig werden könnten – die Art, wie wir Harnesses jetzt bauen, könnte also nicht gut altern.

Wenn Sie das nächste Mal sagen: „Mein Modell hat X getan“, halten Sie inne und fragen Sie: War es das Modell oder der Harness, der es orchestriert hat?