OpenClaw mit einem benutzerdefinierten LLM forken: Ein Leitfaden für lokale Einrichtung
Ein Entwickler auf r/openclaw berichtete über seine Erfahrung, OpenClaw zu forken, um vollständig auf lokalen Modellen zu laufen, was zu einem vollständig angepassten KI-Gateway namens JARVIS führte. Der gesamte Prozess wurde von seiner OpenClaw-Instanz Skippy übernommen, die das Modell qwen3.8-27 verwendete, um den Fork zu automatisieren, Pakete umzubenennen, Konfigurationen zu aktualisieren und Statusverzeichnisse zu verwalten. Was Minuten statt Stunden dauerte, zeigt, dass der Bau eines eigenen KI-Gateways jetzt für einzelne Entwickler zugänglich ist.
Wichtige Erkenntnisse
- Vollständig lokale Inferenz: Der Fork läuft ohne Cloud-Abhängigkeit und verwendet nur lokale Modelle.
- Anpassung ohne das Original zu berühren: Sie können alles im Fork ändern, ohne die ursprüngliche OpenClaw-Installation zu beeinflussen.
- Mehrere Instanzen: Zwei Versionen von OpenClaw laufen jetzt nebeneinander auf einem M2 Ultra, jede mit eigenen Statusverzeichnissen, beide fordern GPU-Ressourcen an.
Wie der Fork erstellt wurde
Der Prozess war einfacher als erwartet. Skippy übernahm die schwere Arbeit, einschließlich:
- Umbenennen von Paketen
- Aktualisieren von Konfigurationen
- Verwalten von Statusverzeichnissen
Das Ergebnis war ein vollständig eigenständiges Gateway, das unabhängig von der ursprünglichen Installation läuft.
Ressourcenkonflikte
Der Entwickler stellt fest, dass das gleichzeitige Ausführen von zwei Versionen auf derselben Maschine zu GPU-Ressourcenkonflikten führt – beide Instanzen kämpfen um dieselbe GPU. Obwohl es funktioniert, ist die Verwaltung der Ressourcenzuweisung zwischen mehreren KI-Systemen eine offene Herausforderung, die es wert ist, erkundet zu werden.
Für wen das gedacht ist
Wenn Sie ein Entwickler mit einem anständigen Mac (wie dem M2 Ultra) und lokalen Modellen sind, können Sie Ihr eigenes KI-Gateway ohne Team oder massive Infrastruktur bauen. Dieser Ansatz gibt Ihnen vollständige Kontrolle und Privatsphäre.
📖 Lesen Sie die vollständige Quelle: r/openclaw
👀 Siehe auch
Open-Source-MCP-Suite verbessert die Code-Generierungsqualität von Claude um 15-20 %.
Ein Open-Source-MCP-Suite bestehend aus drei lokalen Servern und einer Prompt-Fähigkeit adressiert das 'Bad Token'-Problem bei der KI-Codegenerierung, wobei ein Kunde über eine 15-20%ige Qualitätsverbesserung bei Claude Code berichtet.
120 Prompt Patterns getestet: 8, die bei Claude Code tatsächlich funktionieren
Ein 3-monatiger empirischer Test von 120 Prompt-Mustern für Claude Code ergibt 8 umsetzbare Befehle und 5 Validierungs-Prompts. Schlüsselmuster: L99 (reduziert Absicherungen), /ghost (entfernt KI-Stimme), OODA (strukturierte Argumentation), ULTRATHINK (tiefgehendes Denken), HARDMODE (Einschränkungs-Debugging).
iai-mcp: Ein lokaler Daemon für persistenten OpenClaw-Speicher über Sitzungen hinweg
iai-mcp ist ein quelloffener Daemon, der alle OpenClaw-Gespräche aufzeichnet, sie in drei Speicherebenen mit lokalen neuronalen Embeddings und AES-256-Verschlüsselung speichert und bei neuen Sitzungen den relevanten Kontext zurückliefert — wortwörtliche Erinnerung >99%, Abruf <100ms, Sitzungsstart-Kosten <3k Tokens.
KI-Funktionen: Laufzeit-Codegenerierung mit automatisierter Verifizierung
AI Functions ist eine Python-Bibliothek, mit der Sie Funktionen mit natürlichen Sprachspezifikationen anstelle von Implementierungscode definieren können, zur Laufzeit generierten LLM-Code ausführt und Ausgaben mit Nachbedingungen validiert, die bei Fehlern automatische Wiederholungen auslösen.