Orkestra: Kostenbewusste LLM-Routing-Schicht für OpenClaw reduziert API-Kosten um 60–80 %
Was Orkestra tut
Orkestra ist eine kostenbewusste LLM-Routing-Schicht für OpenClaw, die API-Kosten um 60-80 % reduziert. Es handelt sich um eine modulare Architektur, die vor Modellaufrufen sitzt und basierend auf semantischer Ähnlichkeit entscheidet, welche Stufe jede Anfrage bearbeiten soll.
Wie es funktioniert
Wenn ein Prompt eingeht, wird er eingebettet und durch einen leichten KNN-Klassifikator geleitet, der auf zuvor gelabelten Workloads trainiert wurde. Basierend auf semantischer Ähnlichkeit kategorisiert der Router ihn als budget, balanced oder premium und leitet den Aufruf entsprechend weiter.
Es gibt keine Prompt-Umschreibung und keinen komplexen Regelbaum – nur semantische Klassifizierung zum Zeitpunkt des Aufrufs. Die Reduzierung der API-Kosten kommt hauptsächlich dadurch zustande, dass einfachere Prompts nicht standardmäßig an die teuersten Modelle weitergeleitet werden.
Integration mit OpenClaw
Orkestra wird als OpenClaw-Skill über einen lokalen Proxy eingebunden, sodass bestehende Pipelines vollständig intakt bleiben. Der Agent ruft es über bash/curl an einen OpenAI-kompatiblen Endpunkt unter 127.0.0.1:8765 auf.
Die Antwort enthält vollständige Kostentransparenz mit den Feldern _orkestra.cost und _orkestra.savings_percent.
Unterstützte Anbieter und Konfiguration
- Unterstützte Anbieter: Google (Gemini), Anthropic (Claude), OpenAI
- Routing über Budget-/Balanced-/Premium-Stufen innerhalb jedes Anbieters
- Unterstützt Multi-Provider-Modus über alle drei Anbieter
- Repository und OpenClaw-Integration verfügbar unter: github.com/imperativelabs/orkestra
- Siehe
integrations/openclaw/für die Skill-Dateien, Proxy und Konfigurationsbeispiele
📖 Read the full source: r/openclaw
👀 Siehe auch
Zwei neue Open-Source-Tools für KI-Agenten-Sicherheit und -Optimierung
Für KI-Agenten-Entwickler stehen zwei Open-Source-Tools zur Verfügung: AI Agent Defense Kit bietet Laufzeitsicherheitsfähigkeiten, und AgentGuard (in Entwicklung) bietet Kostenverfolgung, Sicherheitsscans und Aktivitätsüberwachung.
cc-session-utils: TUI-Dashboard zur Verwaltung von Claude Code-Sitzungen und Kosten
Ein Entwickler hat cc-session-utils erstellt, ein Terminal-UI-Tool zur Verwaltung von Claude Code-Sitzungsdateien, zur Kostenverfolgung nach Modell, zur Bereinigung verwaister Sitzungen und zur Datenmigration zwischen Projekten. Es erfordert Python 3.11+ und wurde mit Textual erstellt.
Karpathys Autoresearch auf Apple Neural Engine portiert für bessere Durchsatzleistung pro Watt
Ein Prototyp kombiniert Andrej Karpathys Autoresearch-Projekt mit reverse-engineerter Apple Neural Engine-Leistung und zielt auf einen besseren Durchsatz pro Watt im Vergleich zu offiziellen APIs ab. Das Projekt basiert auf bestehenden GitHub-Repositories und würdigt Beiträge mehrerer Entwickler.
Claw-geschriebenes Plugin fügt OpenClaw Unterstützung für Qwen 3.8 27B Denkstufe hinzu
Ein Entwickler teilt ein Plugin, das vollständig von einem KI-Agenten geschrieben wurde und die Denkstufen von Qwen 3.8 über die Chat-Vorlage propagiert, mit optionaler Überschreibung pro Aufruf und Unterstützung des Instruct-Modus.