Contabo VPS에서 로컬 LLM으로 OpenClaw 실행하기: Qwen 3:4B 멈춤 현상 및 해결 방법

r/openclaw의 한 사용자가 토큰 비용을 줄이기 위해 Contabo VPS에서 로컬 LLM으로 OpenClaw를 테스트하고 있습니다. 그들의 설정: 6 CPU 코어, 12 GB RAM, 200 GB SSD, GPU 없음, Ubuntu. Ollama를 설치하고 Codex를 사용하여 작은 모델로 하트비트를 실행했지만, Qwen 3:4B가 컴팩션 오류 후 계속 멈춥니다. 그들이 발견한 내용은 다음과 같습니다.

하드웨어 제약

VPS에 GPU가 없어 모델 크기가 제한됩니다. 사용자의 Contabo 사양: 6 vCPU, 12 GB RAM, 200 GB NVMe. 이는 작은 Ollama 모델에 충분하지만, Qwen 3:4B(4B 파라미터)는 특히 추론 중 메모리 급증으로 인해 한계에 부딪힙니다.

Qwen 3:4B 문제

• 첫 번째 오류: 컴팩션 오류—메모리 부족 또는 파일 시스템 문제로 인한 것으로 보입니다.
• 해결 후 모델이 멈춤—출력도 없고 충돌도 없습니다.
• Codex( AI 코딩 에이전트)는 Qwen이 서버에서 작동해야 한다고 말했지만, 실제로는 불안정합니다.

사용자는 좋은 조건으로 제공되는 Grok을 기본 LLM으로 사용하기로 하고 포기했지만, 신뢰할 수 있는 로컬 옵션을 원합니다.

작동하는 것

작은 Ollama 모델(아마 tinyllama 또는 phi3:mini)은 문제 없이 실행되며 외부 API 호출 없이 하트비트를 처리합니다. 사용자는 기본 추론에 로컬 모델을 사용하고 복잡한 작업에는 Grok이나 Claude 같은 클라우드 LLM을 예약할 것을 제안합니다.

실용적인 팁

• 더 작은 모델로 시작: llama3.2:1b 또는 phi3:mini(3.8B)가 12GB RAM에서 Qwen 3:4B보다 잘 실행될 수 있습니다.
• htop 또는 free -m으로 메모리를 모니터링하세요—스왑이 사용되면 성능이 저하됩니다.
• OLLAMA_NUM_PARALLEL=1을 설정하여 메모리 사용을 줄이세요.
• 스왑 파일을 아직 추가하지 않았다면: fallocate -l 4G /swapfile && chmod 600 /swapfile && mkswap /swapfile && swapon /swapfile.

이 스레드는 저사양 VPS에서 로컬 LLM 사용이 가능하지만 신중한 모델 선택이 필요함을 상기시킵니다. 비프로그래머(원래 게시자처럼 모기지 업계 종사자)라면 학습 곡선이 가파르지만 커뮤니티가 기꺼이 도와줍니다.