Запуск OpenClaw с локальной LLM на VPS Contabo: зависание Qwen 3:4B и обходные пути

Пользователь на r/openclaw тестирует OpenClaw с локальной LLM на VPS Contabo, чтобы сократить расходы на токены. Его конфигурация: 6 ядер CPU, 12 ГБ ОЗУ, 200 ГБ SSD, без GPU, Ubuntu. Он установил Ollama и использовал Codex для запуска heartbeat с крошечной моделью, но Qwen 3:4B продолжает зависать после ошибки уплотнения. Вот что он обнаружил.

Ограничения оборудования

На VPS нет GPU, поэтому размер модели ограничен. У пользователя Contabo: 6 vCPU, 12 ГБ ОЗУ, 200 ГБ NVMe. Этого достаточно для небольших моделей Ollama, но Qwen 3:4B (4B параметров) — на пределе, особенно во время инференса, когда память скачет.

Проблемы с Qwen 3:4B

• Первая ошибка: ошибка уплотнения — вероятно, из-за нехватки памяти или проблем с файловой системой.
• После её устранения модель просто зависает — ни вывода, ни краха.
• Codex (AI-агент для кодинга) сказал, что Qwen должен работать на сервере, но на практике он нестабилен.

Пользователь сдался и вернулся к Grok как основной LLM, потому что у него хорошая сделка на неё, но он хочет надёжный локальный вариант.

Что работает

Крошечная модель Ollama (вероятно, tinyllama или phi3:mini) работает отлично и обрабатывает heartbeat без внешних API-вызовов. Пользователь предлагает использовать локальную модель для базовых рассуждений, а облачные LLM, такие как Grok или Claude, резервировать для сложных задач.

Практические советы

• Начните с меньшей модели: llama3.2:1b или phi3:mini (3.8B) могут работать лучше, чем Qwen 3:4B на 12 ГБ ОЗУ.
• Следите за памятью с помощью htop или free -m — если используется своп, производительность падает.
• Установите OLLAMA_NUM_PARALLEL=1, чтобы уменьшить использование памяти.
• Рассмотрите возможность добавления файла подкачки, если его нет: fallocate -l 4G /swapfile && chmod 600 /swapfile && mkswap /swapfile && swapon /swapfile.

Эта ветка напоминает, что локальные LLM на дешёвых VPS возможны, но требуют тщательного выбора модели. Если вы не программист (как автор поста, ипотечный брокер), кривая обучения крута, но сообщество готово помочь.