Schwarzes LLAB: Open-Source-Architektur für dynamisches Modell-Routing und Docker-isolierte KI-Agenten
Ein Entwickler hat Black LLAB veröffentlicht, ein Open-Source-Projekt, das versucht, Systeme führender KI-Labore für autonome Aufgabenausführung nachzubilden. Das System adressiert zwei Hauptprobleme: die manuelle Entscheidung, welches Modell für verschiedene Anfragen verwendet werden soll, und die sichere Ausführung von KI-Agenten-Code.
Architekturkomponenten
Das System besteht aus mehreren Schlüsselkomponenten:
- Dynamisches Komplexitäts-Routing: Verwendet Mistral 3B Instruct, um Anfragen auf einer Skala von 1-100 zu bewerten. Einfache Fragen werden zu schnellen/günstigen Modellen geleitet; komplexe Programmieraufgaben werden zu leistungsstarken Modellen mit "Lost in the Middle"-XML-Kontextformung geroutet.
- Docker-gesandboxete Agenten: Integriert OpenClaw, um Agenten in dedizierten, isolierten Docker-Containern bereitzustellen. Agenten können Dateien schreiben, das Web durchsuchen und Code ausführen, ohne das Host-Betriebssystem zu berühren.
- Erweitertes Hybrid-RAG: Baut einen persistenten Wissensgraphen mit NetworkX auf und verwendet einen Cross-Encoder für präzise Kontextabfrage jenseits der Standard-Vektorsuche.
- Live-Web & Vision: Integriert sich mit lokalem SearxNG für Web-Scraping und Pix2Text für lokale Bilderkennung/OCR.
- Budget-Schutzmaßnahmen: Enthält einen täglichen Ausgabenlimitschieberegler, um Überschreitungen von Cloud-API-Kosten zu verhindern.
Modell-Aufstellung
Das System verwendet mehrere Modelle für verschiedene Zwecke:
- Routing/Logik: Mistral 3B & Qwen 3.5 9B (Lokal)
- Mittlere Leistung/Geschwindigkeit: Xiaomi MiMo Flash
- Schwere Aufgaben (Failover): Claude Opus & Perplexity Sonar
Tech-Stack
Das Projekt ist mit FastAPI, Python, NetworkX, ChromaDB, Docker, Ollama, Playwright und einer schlichten HTML/JS-Terminal-inspirierten Benutzeroberfläche aufgebaut.
Der Entwickler beschreibt sich selbst als "eher Maschinenbauingenieur als Softwareentwickler" und sucht Feedback von erfahrenen Entwicklern zur Architektur, insbesondere zum Docker-Sandboxing-Ansatz. Das Projekt ist auf GitHub verfügbar für unabhängige Forscher, die autonome Aufgaben ausführen möchten, ohne an einen einzelnen Anbieter gebunden zu sein.
📖 Read the full source: r/openclaw
👀 Siehe auch
CostHawk startet öffentliches Ranking für Claude Code, Codex und Cursor-Tokenverbrauch
CostHawks Rangliste ordnet öffentliche Nutzer von Claude Code, OpenAI Codex und Cursor nach ihrem gesamten Token-Verbrauch und verfolgt Zählungen, Modelle und Synchronisationszeitstempel, ohne Prompts oder Code zu speichern.
Multi-Agenten-Debatte-Ansatz verbessert die Denkqualität von LLMs
Ein Entwickler experimentierte mit einem Multi-Agenten-Debattenansatz unter Verwendung von CyrcloAI, bei dem verschiedene KI-Agenten Rollen wie Analyst, Kritiker und Synthetisierer übernehmen, um die Antworten der anderen zu kritisieren, bevor eine endgültige Antwort erstellt wird, was zu strukturierteren und durchdachteren Ergebnissen führt.
Lokales MCP-Speichersystem mit Konsolidierung für KI-Gespräche
Ein Entwickler hat einen MCP-Server erstellt, der lokalen persistenten Speicher für KI-Clients bereitstellt und dabei Qwen 2.5-7B nutzt, um Gespräche alle 6 Stunden in strukturierte Wissensdokumente zu konsolidieren. Das System läuft vollständig auf Ihrer Hardware mit semantischer Deduplizierung, adaptivem Scoring und FAISS-Vektorsuche.
SIDJUA V1.0: Selbst gehostete Governance-Plattform für KI-Agenten
SIDJUA V1.0 ist eine kostenlose, selbst gehostete Governance-Plattform für KI-Agenten, die auf Docker läuft, einschließlich Raspberry Pi. Sie bietet obligatorische Kontrollpunkte für Agentenaufgaben, verschlüsselte Anmeldedatenspeicherung, Netzwerkisolation und granulare Budgetkontrollen.