Guía: Implementación de OpenClaw con llama.cpp en la Mini PC GEEKOM IT15

Arquitectura de Implementación y Cambios Clave

Esta guía describe una implementación donde la puerta de enlace de OpenClaw (puerto 18789) se conecta a un llama-server gestionado manualmente (puerto 8080) en lugar del servidor Ollama predeterminado (puerto 11434). El objetivo es ejecutar un modelo local Qwen3-8B utilizando aceleración de GPU Intel Arc a través de SYCL.

Depuración y Soluciones

El proceso implicó resolver varios conflictos de configuración:

• Problema 1: Configuración mcpServers No Compatible: OpenClaw no admite la clave de configuración mcpServers. La solución fue eliminar esta sección de openclaw.json y usar archivos por lotes para iniciar manualmente llama-server, integrando su lógica de inicio en código Python.
• Problema 2: Conflicto de Caché de Sesión: Una sesión de canal Feishu en caché estaba anulando la nueva configuración global, causando errores de API de Ollama. Esto se solucionó eliminando el archivo de caché de sesión: del "C:\Users\JiugeAItest\.openclaw\agents\main\sessions\sessions.json".
• Problema 3: Longitud de Contexto Insuficiente: El contexto predeterminado de llama-server de 4096 tokens causaba errores en conversaciones más largas. Esto se resolvió iniciando el servidor con -c 32768 y estableciendo contextWindow: 32768 en la configuración de OpenClaw.

Pasos de Implementación

La configuración utiliza una estructura de directorios específica en el GEEKOM IT15:

E:\Workspace_AI\Buildup_OpenClow
├── llama-b8245-bin-win-sycl-x64\ # versión SYCL de llama.cpp
│   ├── llama-server.exe
│   └── ... (DLLs)
├── models\Qwen3-8B-GGUF\
│   └── Qwen3-8B-Q4_K_M.gguf # Archivo del modelo
└── start_openclaw_with_llamacpp.bat # Script de inicio

Nota: El modelo Qwen3-8B-Q4_K_M.gguf está verificado como compatible con la versión b8245 de llama.cpp. Los modelos Qwen3.5 son incompatibles con esta versión debido a una discrepancia de longitud en rope.dimension_sections.

Configuración de OpenClaw

El cambio de configuración principal está en C:\Users\<Username>\.openclaw\openclaw.json. El proveedor del modelo se cambia de ollama a llama-cpp:

{
  "agents": {
    "defaults": {
      "model": {
        "primary": "llama-cpp/qwen3-8b"
      }
    }
  },
  "models": {
    "providers": {
      "ollama": { ... },
      "llama-cpp": {
        "api": "openai-completions",
        "apiKey": "llama-cpp-local",
        "baseUrl": "http://127.0.0.1:8080/v1",
        "models": [
          {
            "contextWindow": 32768,
            "id": "qwen3-8b",
            "name": "qwen3-8b",
            ...
          }
        ]
      }
    }
  }
}

La guía también incluye secciones sobre referencia de parámetros, una guía para evitar problemas, solución de problemas e instrucciones para volver a Ollama si es necesario.