Exécution d'OpenClaw avec un LLM local sur un VPS Contabo : Qwen 3:4B se bloque, solutions de contournement

Un utilisateur sur r/openclaw teste OpenClaw avec un LLM local sur un VPS Contabo pour réduire les coûts de tokens. Sa configuration : 6 cœurs CPU, 12 Go de RAM, 200 Go SSD, pas de GPU, Ubuntu. Il a installé Ollama et utilisé Codex pour faire fonctionner le heartbeat avec un petit modèle, mais Qwen 3:4B continue de planter après une erreur de compactage. Voici ce qu'il a découvert.

Contraintes matérielles

Le VPS n'a pas de GPU, donc la taille du modèle est limitée. La machine Contabo de l'utilisateur : 6 vCPU, 12 Go de RAM, 200 Go NVMe. C'est suffisant pour les petits modèles Ollama, mais Qwen 3:4B (4B paramètres) est à la limite—surtout pendant l'inférence où la mémoire augmente.

Problèmes avec Qwen 3:4B

• Première erreur : erreur de compactage—probablement due à la pression mémoire ou à des problèmes de système de fichiers.
• Après avoir résolu cela, le modèle plante—pas de sortie, pas de crash.
• Codex (l'agent de codage IA) a dit que Qwen devrait fonctionner sur le serveur, mais c'est instable en pratique.

L'utilisateur a abandonné et est revenu à Grok comme LLM par défaut car il a une bonne offre dessus—mais il veut une option locale fiable.

Ce qui fonctionne

Le petit modèle Ollama (probablement tinyllama ou phi3:mini) fonctionne bien et gère le heartbeat sans appels API externes. L'utilisateur suggère d'utiliser un modèle local pour le raisonnement de base et de réserver les LLM cloud comme Grok ou Claude pour les tâches complexes.

Conseils pratiques

• Commencez avec un modèle plus petit : llama3.2:1b ou phi3:mini (3.8B) peuvent mieux fonctionner que Qwen 3:4B avec 12 Go de RAM.
• Surveillez la mémoire avec htop ou free -m—si le swap est utilisé, les performances chutent.
• Définissez OLLAMA_NUM_PARALLEL=1 pour réduire l'utilisation de la mémoire.
• Envisagez d'ajouter un fichier swap si vous n'en avez pas : fallocate -l 4G /swapfile && chmod 600 /swapfile && mkswap /swapfile && swapon /swapfile.

Ce fil rappelle que les LLM locaux sur des VPS bas de gamme sont possibles mais nécessitent une sélection minutieuse du modèle. Si vous n'êtes pas programmeur (comme l'auteur original, un spécialiste en prêts immobiliers), la courbe d'apprentissage est raide, mais la communauté est prête à aider.