OpenClaw lokal mit Jetson Nano und Gaming-Laptop unter Verwendung von Ollama ausführen
Ein Entwickler dokumentierte seine Lösung, OpenClaw lokal auszuführen, um Cloud-API-Kosten und Zuverlässigkeitsprobleme zu vermeiden. Er stieß auf Probleme mit Cloud-LLM-Diensten, einschließlich Gemini und Clawd, die die Nutzung von Pro-Plänen sperrten, Claude-Serverausfällen und sich ansammelnden OpenAI-API-Gebühren von 200 US-Dollar pro Woche.
Hardware-Einrichtung
Das System verwendet zwei Geräte:
- Jetson Nano, auf dem OpenClaw läuft
- MSI-Gaming-Laptop von 2022, auf dem Qwen 3.5 9B über Ollama läuft
Implementierungsdetails
Der Gaming-Laptop war nicht für den 24/7-Betrieb ausgelegt, daher konfigurierten sie Wake-on-LAN-Funktionalität, um ihn nur bei Bedarf einzuschalten. Sie verwendeten LM Studio, um das passende Modell auszuwählen und zu testen, bevor sie sich für Qwen 3.5 9B entschieden.
Das System implementiert Hybrid-Routing: Die meisten Aufgaben nutzen das lokale LLM, aber komplexere Aufgaben werden automatisch an die OpenAI-API weitergeleitet. Dieser Ansatz gewährleistet Funktionalität bei gleichzeitiger erheblicher Kostenreduzierung.
Ergebnisse
Das Setup läuft jetzt 24/7 und hat im Vergleich zu reinen Cloud-Lösungen erheblich Geld gespart. Der Entwickler merkte an, dass der Konfigurationsprozess zeitaufwändig war, und erstellte ein Schritt-für-Schritt-Video, das das gesamte Verfahren dokumentiert.
📖 Read the full source: r/openclaw
👀 Siehe auch
Ich habe einen persönlichen französischen LLM-Tutor mit verteilter Wiederholung und Schwachstellenverfolgung erstellt
Ein Entwickler ersetzte einen 200 $ teuren Französischlehrer durch ein Claude-basiertes Tool mit SM-2-Lernkarten und präziser Fehlerprotokollierung – für nur wenige Dollar monatlich.
Lokales Qwen3-0.6B INT8 als Einbettungs-Backbone für KI-Gedächtnissystem
Ein Entwickler implementierte Qwen3-0.6B quantisiert auf INT8 über ONNX Runtime als lokales Embedding-Modell für ein KI-Gedächtnis-Lebenszyklus-System und erreichte 12ms Batch-Inferenz auf der CPU mit 1024-dimensionalen Vektoren und Kosinus-Ähnlichkeitsschwellenwerten von 0,75 für semantische Verwandtschaft.
OpenClaw 24/7 betreiben: Praktische Architektur für persistente autonome Agenten
Ein Entwickler teilt erprobte Lösungen für den Betrieb von OpenClaw als 24/7-Server mit Cron-Jobs, darunter themengetrennte Speicherdateien, aggressives Session-Lebenszyklus-Management, Kontextbereinigung mit Wiederherstellungsplatzhaltern und Wrapper-Tools für strukturierte Speicherung und Absturzwiederherstellung.
OpenClaw-Benutzer automatisiert plattformübergreifende Inhaltsformatierung mit benutzerdefiniertem Skill.
Ein Entwickler hat eine OpenClaw-Fähigkeit erstellt, die Rohfassungen automatisch für mehrere Plattformen formatiert und manuelle Markdown-Anpassungen für die spezifischen Anforderungen jeder Website überflüssig macht.