로컬에서 Jetson Nano와 게임용 노트북을 사용하여 Ollama로 OpenClaw 실행하기

한 개발자가 클라우드 API 비용과 신뢰성 문제를 피하기 위해 OpenClaw를 로컬에서 실행하는 솔루션을 문서화했습니다. 이들은 Gemini와 Clawd의 프로 플랜 사용 금지, Claude 서버 다운타임, 주당 200달러에 달하는 OpenAI API 요금 누적 등 클라우드 LLM 서비스 관련 문제를 겪었습니다.

하드웨어 구성

시스템은 두 가지 장치를 사용합니다:

• OpenClaw를 실행하는 Jetson Nano
• Ollama를 통해 Qwen 3.5 9B를 실행하는 2022년형 MSI 게이밍 노트북

구현 세부사항

게이밍 노트북은 24/7 운영을 위해 설계되지 않았기 때문에, 필요할 때만 전원을 켜도록 웨이크온랜(Wake-on-LAN) 기능을 구성했습니다. Qwen 3.5 9B 모델을 선택하기 전에 LM Studio를 사용해 적절한 모델을 선택하고 테스트하는 데 도움을 받았습니다.

시스템은 하이브리드 라우팅을 구현합니다: 대부분의 작업은 로컬 LLM을 사용하지만, 더 복잡한 작업은 자동으로 OpenAI API로 라우팅됩니다. 이 접근 방식은 기능을 유지하면서 비용을 크게 절감합니다.

결과

이제 이 설정은 24/7로 실행되며, 클라우드 전용 솔루션에 비해 상당한 금액을 절약했습니다. 개발자는 구성 과정이 시간이 많이 소요되었으며, 전체 절차를 문서화한 단계별 동영상을 제작했다고 언급했습니다.