OpenClaw mit lokalem LLM auf einem Contabo-VPS ausführen: Qwen 3:4B hängt, Workarounds

Ein Nutzer in r/openclaw testet OpenClaw mit einem lokalen LLM auf einem Contabo-VPS, um Token-Kosten zu senken. Seine Ausstattung: 6 CPU-Kerne, 12 GB RAM, 200 GB SSD, keine GPU, Ubuntu. Er installierte Ollama und nutzte Codex, um den Heartbeat mit einem winzigen Modell zum Laufen zu bringen, aber Qwen 3:4B hängt nach einem Kompilierungsfehler. Hier ist, was er herausfand.

Hardware-Einschränkungen

Der VPS hat keine GPU, daher ist die Modellgröße begrenzt. Die Contabo-Box des Nutzers: 6 vCPUs, 12 GB RAM, 200 GB NVMe. Das reicht für kleine Ollama-Modelle, aber Qwen 3:4B (4B Parameter) ist grenzwertig – besonders während der Inferenz, wenn der Speicher ansteigt.

Qwen 3:4B Probleme

• Erster Fehler: Kompilierungsfehler – wahrscheinlich aufgrund von Speicherdruck oder Dateisystemproblemen.
• Nach der Behebung hängt das Modell einfach – keine Ausgabe, kein Absturz.
• Codex (der KI-Coding-Agent) sagte, Qwen sollte auf dem Server funktionieren, aber in der Praxis ist es instabil.

Der Nutzer gab auf und wechselte zurück zu Grok als Standard-LLM, weil er ein gutes Angebot hat – aber er möchte eine zuverlässige lokale Option.

Was funktioniert

Das winzige Ollama-Modell (wahrscheinlich tinyllama oder phi3:mini) läuft einwandfrei und bewältigt den Heartbeat ohne externe API-Aufrufe. Der Nutzer schlägt vor, ein lokales Modell für grundlegende Überlegungen zu verwenden und Cloud-LLMs wie Grok oder Claude für komplexe Aufgaben aufzuheben.

Praktische Tipps

• Beginne mit einem kleineren Modell: llama3.2:1b oder phi3:mini (3.8B) könnten auf 12 GB RAM besser laufen als Qwen 3:4B.
• Überwache den Speicher mit htop oder free -m – wenn Swap verwendet wird, sinkt die Leistung.
• Setze OLLAMA_NUM_PARALLEL=1, um die Speichernutzung zu reduzieren.
• Erwäge, eine Swap-Datei hinzuzufügen, falls du noch keine hast: fallocate -l 4G /swapfile && chmod 600 /swapfile && mkswap /swapfile && swapon /swapfile.

Der Thread erinnert daran, dass lokale LLMs auf Low-End-VPS möglich sind, aber eine sorgfältige Modellauswahl erfordern. Wenn du kein Programmierer bist (wie der ursprüngliche Poster, ein Hypothekenberater), ist die Lernkurve steil, aber die Community hilft gerne.