AIsbf 0.9.8 fügt Caching, Routing-Verbesserungen und erweiterte KI-Dienstunterstützung hinzu.
AIsbf (AI Should Be Free) 0.9.8 ist ein API-Proxy/Router, der eine OpenAI-kompatible Schnittstelle zu verschiedenen KI-Endpunktdiensten bereitstellt und darauf abzielt, die Nutzung von LLMs kostengünstiger zu machen. Es ist mehrbenutzerfähig und kann von kleinen Einrichtungen bis hin zu großen Infrastrukturen skaliert werden.
Hauptfunktionen in Version 0.9.8
- Cache-Unterstützung für Redis, SQLite, MySQL und dateibasierte Speicherung
- Zusätzliche Methoden zur Kontextverdichtung
- Native Prompt-Caching und Anfrage-Caching-Unterstützung
- Schnelleres und verbessertes semantisches Prompt-basiertes Routing für automatische Dienstauswahl
- Volle OAuth2-Unterstützung für Claude.ai-Abonnenten
- Volle OAuth2-Unterstützung für Amazon Kiro-cli-Abonnenten
- Volle OAuth2-Unterstützung für OpenAI Codex-Abonnenten
- Volle Unterstützung für Kilo.ai-Abonnenten mit Tokens oder OAuth2
- Mehrere Fehlerbehebungen und kleinere Funktionserweiterungen
Diese Art von Werkzeug ist nützlich für Entwickler, die mit mehreren KI-Diensten arbeiten und eine einheitliche Schnittstelle wünschen, während sie durch intelligentes Routing und Caching Kosten optimieren.
📖 Read the full source: r/LocalLLaMA
👀 Siehe auch
KI-Agenten-Sitzungszentrum: 3D-Dashboard zur Überwachung von Claude-Code-Sitzungen
AI Agent Session Center ist ein Echtzeit-Dashboard, das Claude Code-Sitzungen als 3D-Roboter in einer Cyberdrome visualisiert, mit Animationen, die den Agentenstatus anzeigen, und Funktionen wie Live-Terminal-Ansichten, Genehmigungsbenachrichtigungen und Sitzungsfortsetzung. Die Installation erfolgt über npx mit leichtgewichtigen Bash-Hooks.
Open-Source-Wissensdatenbank-Server und Multi-Agent-Orchestrator für persistente KI-Speicherung
Ein Entwickler hat einen benutzerdefinierten MCP-Server auf einem privaten VPS eingerichtet, um Claude, Codex und Gemini persistenten Speicher über Sitzungen hinweg zu ermöglichen, mit einem Wissensbasisserver, der Obsidian-Vaults verarbeitet, und einem Multi-Agent-Orchestrator namens Daniel für Failover.
Behebung der blinden Flecken von OpenClaw: Erstellung einer Sitemap zum Abrufen aller Anthropic-Blogs
OpenClaws Browser-Tool erkennt nicht alle Anthropic-Blogs, da sie auf mehreren URLs gehostet werden. Ein Benutzer behob dies, indem er eine generierte Sitemap einspeiste, und verpackte die Lösung dann als teilbare Fähigkeit.
Fähigkeiten-Ersteller-Tool für OpenClaw hilft Entwicklern, Workflows zu verpacken
Ein Entwickler hat eine Fähigkeit namens skills-creator erstellt, die Nutzer durch die Erstellung qualitativ hochwertiger Fähigkeiten für OpenClaw führt und häufige Fallstricke wie vage Beschreibungen und dokumentationsähnliche Anleitungen adressiert. Sie ist auf ClawHub verfügbar und bietet einen designgetriebenen Ansatz mit Beschreibungsformeln, Checklisten und Komplexitätsstufen.