로컬 LLM을 클로드 코드 서브에이전트로 사용하여 컨텍스트 사용량 줄이기

r/LocalLLaMA의 한 개발자가 Claude Code를 사용하여 LM Studio를 통해 실행되는 로컬 LLM에 작업을 위임하는 방법을 보여주며, 파일 내용을 로컬에 유지함으로써 Claude의 컨텍스트 사용을 줄입니다.

작동 방식

이 시스템은 에이전트 루프를 실행하는 작은 Python 스크립트(~120줄, 표준 라이브러리만 사용)를 사용합니다:

파일 내용 없이 작업 설명을 Claude에 전달합니다
스크립트는 read_file 및 list_dir 도구 정의와 함께 LM Studio의 /v1/chat/completions 엔드포인트로 전송합니다
로컬 모델은 필요한 파일을 읽기 위해 해당 도구를 직접 호출합니다
최종 답변을 생성할 때까지 루프가 계속됩니다
Claude는 파일 내용이 아닌 결과만 확인합니다

사용 예시

python3 agent_lm.py --dir /path/to/project "solar-system.html 요약"
# [턴 1] → read_file({'path': 'solar-system.html'})
# [턴 2] → 이 HTML 파일은 대화형 애니메이션 태양계를 생성합니다...

파일 내용은 Claude의 컨텍스트가 아닌 로컬 모델의 컨텍스트로 들어갑니다(Apple Silicon에서 MLX를 통해 Qwen3.5 35B 4비트로 테스트됨).

적합한 용도

코드 요약 및 설명
버그 찾기
보일러플레이트 / 초안 생성
텍스트 변환 및 번역(히브리어로 테스트됨)
논리 작업 및 추론(더 어려운 문제에는 --think 플래그 사용)

적합하지 않은 용도

관계가 중요한 다중 파일 이해와 같이 Claude의 전체 컨텍스트가 필요한 작업
현재 대화 기록이 필요한 작업
정확성이 중요한 모든 작업

저자는 이를 "하이쿠 수준의 보조 도구이지 대체품이 아니다"라고 설명합니다.

설정

API 서버가 활성화된 로컬에서 실행되는 LM Studio
에이전트 루프용 Python 스크립트 하나, 간단한 프롬프트 전용 쿼리용 스크립트 하나
둘 다 전역 ~/.claude/CLAUDE.md에 연결되어 Claude Code가 관련 시 위임을 제공할 수 있도록 함
MCP 서버, pip 종속성, 플러그인 인프라가 필요 없음
권장: jinja 템플릿 상단에 {%- set enable_thinking = false %} 추가 - 대부분의 작업에서 품질 저하 없이 시간과 토큰을 절약합니다

저자는 Claude가 게시물 작성에 도움을 주었지만 감독과 수정을 거쳤으며, 관심이 있다면 스크립트를 공유할 수 있다고 언급했습니다.

📖 전체 소스 읽기: r/LocalLLaMA