커스텀 LLM으로 OpenClaw 포킹하기: 로컬 전용 설정 가이드

r/openclaw의 한 개발자가 OpenClaw를 포크하여 전적으로 로컬 모델로 실행되게 한 경험을 공유했으며, 그 결과 JARVIS라는 완전히 맞춤화된 AI 게이트웨이를 만들었습니다. 전체 과정은 그들의 OpenClaw 인스턴스인 Skippy가 처리했으며, Skippy는 qwen3.8-27 모델을 사용하여 포크, 패키지 이름 변경, 설정 업데이트, 상태 디렉터리 관리를 자동화했습니다. 몇 시간이 아닌 몇 분이 걸린 이 과정은 이제 개인 개발자도 자신만의 AI 게이트웨이를 구축할 수 있음을 보여줍니다.

주요 내용

• 완전 로컬 추론: 이 포크는 클라우드 의존성 없이 로컬 모델만 사용하여 실행됩니다.
• 원본을 건드리지 않는 맞춤화: 포크에서 모든 것을 수정해도 원래 OpenClaw 설치에는 영향을 미치지 않습니다.
• 다중 인스턴스: 이제 M2 Ultra에서 두 버전의 OpenClaw가 각각의 상태 디렉터리를 가지고 나란히 실행되며, 둘 다 GPU 리소스를 요구합니다.

포크가 만들어진 방법

과정은 예상보다 간단했습니다. Skippy가 무거운 작업을 처리했으며, 여기에는 다음이 포함됩니다:

• 패키지 이름 변경
• 설정 업데이트
• 상태 디렉터리 관리

그 결과 원본 설치와 독립적으로 실행되는 완전히 독립적인 게이트웨이가 탄생했습니다.

리소스 충돌

개발자는 같은 머신에서 두 버전을 동시에 실행하면 GPU 리소스 경합이 발생한다고 지적합니다. 두 인스턴스가 같은 GPU를 두고 경쟁합니다. 작동은 하지만, 여러 AI 시스템 간의 리소스 할당을 관리하는 것은 탐구할 가치가 있는 해결 과제입니다.

이것이 필요한 사람

M2 Ultra와 같은 괜찮은 Mac과 로컬 모델을 가진 개발자라면, 팀이나 대규모 인프라 없이도 자신만의 AI 게이트웨이를 구축할 수 있습니다. 이 접근 방식은 완전한 제어와 프라이버시를 제공합니다.