로컬 LLM을 클로드 코드 서브에이전트로 사용하여 컨텍스트 사용량 줄이기

r/LocalLLaMA의 한 개발자가 Claude Code를 사용하여 LM Studio를 통해 실행되는 로컬 LLM에 작업을 위임하는 방법을 보여주며, 파일 내용을 로컬에 유지함으로써 Claude의 컨텍스트 사용을 줄입니다.

작동 방식

이 시스템은 에이전트 루프를 실행하는 작은 Python 스크립트(~120줄, 표준 라이브러리만 사용)를 사용합니다:

• 파일 내용 없이 작업 설명을 Claude에 전달합니다
• 스크립트는 read_file 및 list_dir 도구 정의와 함께 LM Studio의 /v1/chat/completions 엔드포인트로 전송합니다
• 로컬 모델은 필요한 파일을 읽기 위해 해당 도구를 직접 호출합니다
• 최종 답변을 생성할 때까지 루프가 계속됩니다
• Claude는 파일 내용이 아닌 결과만 확인합니다

사용 예시

python3 agent_lm.py --dir /path/to/project "solar-system.html 요약"
# [턴 1] → read_file({'path': 'solar-system.html'})
# [턴 2] → 이 HTML 파일은 대화형 애니메이션 태양계를 생성합니다...

파일 내용은 Claude의 컨텍스트가 아닌 로컬 모델의 컨텍스트로 들어갑니다(Apple Silicon에서 MLX를 통해 Qwen3.5 35B 4비트로 테스트됨).

적합한 용도

• 코드 요약 및 설명
• 버그 찾기
• 보일러플레이트 / 초안 생성
• 텍스트 변환 및 번역(히브리어로 테스트됨)
• 논리 작업 및 추론(더 어려운 문제에는 --think 플래그 사용)

적합하지 않은 용도

• 관계가 중요한 다중 파일 이해와 같이 Claude의 전체 컨텍스트가 필요한 작업
• 현재 대화 기록이 필요한 작업
• 정확성이 중요한 모든 작업

저자는 이를 "하이쿠 수준의 보조 도구이지 대체품이 아니다"라고 설명합니다.

설정

• API 서버가 활성화된 로컬에서 실행되는 LM Studio
• 에이전트 루프용 Python 스크립트 하나, 간단한 프롬프트 전용 쿼리용 스크립트 하나
• 둘 다 전역 ~/.claude/CLAUDE.md에 연결되어 Claude Code가 관련 시 위임을 제공할 수 있도록 함
• MCP 서버, pip 종속성, 플러그인 인프라가 필요 없음
• 권장: jinja 템플릿 상단에 {%- set enable_thinking = false %} 추가 - 대부분의 작업에서 품질 저하 없이 시간과 토큰을 절약합니다

저자는 Claude가 게시물 작성에 도움을 주었지만 감독과 수정을 거쳤으며, 관심이 있다면 스크립트를 공유할 수 있다고 언급했습니다.