Déployer OpenClaw avec llama.cpp sur Mini PC GEEKOM IT15

Architecture de déploiement et modifications clés

Ce guide décrit un déploiement où la passerelle d'OpenClaw (port 18789) se connecte à un llama-server géré manuellement (port 8080) au lieu du serveur Ollama par défaut (port 11434). L'objectif est d'exécuter un modèle local Qwen3-8B en utilisant l'accélération GPU Intel Arc via SYCL.

Débogage et solutions

Le processus a impliqué la résolution de plusieurs conflits de configuration :

Problème 1 : Configuration mcpServers non prise en charge : OpenClaw ne prend pas en charge la clé de configuration mcpServers. La solution a été de supprimer cette section de openclaw.json et d'utiliser des fichiers batch pour démarrer manuellement llama-server, en intégrant sa logique de démarrage dans le code Python.
Problème 2 : Conflit de cache de session : Une session de canal Feishu mise en cache remplaçait la nouvelle configuration globale, provoquant des erreurs d'API Ollama. Ce problème a été résolu en supprimant le fichier de cache de session : del "C:\Users\JiugeAItest\.openclaw\agents\main\sessions\sessions.json".
Problème 3 : Longueur de contexte insuffisante : Le contexte par défaut de llama-server de 4096 tokens provoquait des erreurs pour les conversations plus longues. Cela a été résolu en démarrant le serveur avec -c 32768 et en définissant contextWindow: 32768 dans la configuration d'OpenClaw.

Étapes de déploiement

La configuration utilise une structure de répertoire spécifique sur le GEEKOM IT15 :

E:\Workspace_AI\Buildup_OpenClow
├── llama-b8245-bin-win-sycl-x64\ # version SYCL de llama.cpp
│   ├── llama-server.exe
│   └── ... (DLLs)
├── models\Qwen3-8B-GGUF\
│   └── Qwen3-8B-Q4_K_M.gguf # Fichier du modèle
└── start_openclaw_with_llamacpp.bat # Script de démarrage

Remarque : Le modèle Qwen3-8B-Q4_K_M.gguf est vérifié compatible avec la version b8245 de llama.cpp. Les modèles Qwen3.5 sont incompatibles avec cette version en raison d'une incompatibilité de longueur de rope.dimension_sections.

Configuration d'OpenClaw

Le changement de configuration principal se trouve dans C:\Users\<Nom d'utilisateur>\.openclaw\openclaw.json. Le fournisseur de modèle est passé de ollama à llama-cpp :

{
  "agents": {
    "defaults": {
      "model": {
        "primary": "llama-cpp/qwen3-8b"
      }
    }
  },
  "models": {
    "providers": {
      "ollama": { ... },
      "llama-cpp": {
        "api": "openai-completions",
        "apiKey": "llama-cpp-local",
        "baseUrl": "http://127.0.0.1:8080/v1",
        "models": [
          {
            "contextWindow": 32768,
            "id": "qwen3-8b",
            "name": "qwen3-8b",
            ...
          }
        ]
      }
    }
  }
}

Le guide comprend également des sections sur la référence des paramètres, un guide d'évitement des pièges, le dépannage et des instructions pour revenir à Ollama si nécessaire.

📖 Lire la source complète : r/openclaw