Qwen3.6:27b + 맞춤형 Go 에이전트: Claude Code의 로컬 대안
로컬 LLM 통합 사업을 운영하는 개발자(codehamr)가 Claude Code의 대체재로 로컬 모델을 실험한 결과를 설명합니다. 그들은 96GB와 128k 컨텍스트를 갖춘 RTX 6000에서 Q8 양자화된 Qwen3.6:27b가 Claude Code와 유사한 코딩 경험을 제공하며, 32GB의 Q4_M에서 소비자용 RTX 5090도 비슷한 결과를 낼 수 있다고 언급합니다.
에이전트 계층의 경우, 그들은 codehamr(MIT 오픈소스)이라는 최소한의 단일 Go 바이너리를 구축했습니다. 플러그인, MCP, 테마가 없으며, 에이전트는 필요에 따라 bash를 통해 검색, 종속성, 파일 작업을 처리합니다. 저장소는 https://github.com/codehamr/codehamr에서 확인할 수 있습니다.
주요 세부사항
- 모델: RTX 6000(96GB)에서 128k 컨텍스트로 실행되는 Q8 양자화 Qwen3.6:27b — 30B 모델에는 과한 사양입니다.
- 소비자 대안: Q4_M으로 실행되는 RTX 5090(32GB)은 좋은 프롬프트 규율과 함께 비슷한 코딩 경험을 제공해야 합니다.
- 에이전트 빌드: 커스텀 Go 바이너리 — 최소한, 플러그인 없음, MCP 없음. 검색, 종속성, 파일 작업에 bash 사용.
- 라이선스: MIT 오픈소스, 포크하거나 무시 가능.
개발자는 로컬 LLM으로의 모든 단계가 클라우드 도구에 대한 의존성을 줄여준다고 강조합니다. 이 설정은 규율 있는 프롬프트와 결합되어 Claude Code가 그리워지지 않는 첫 번째 로컬 구성입니다.
📖 전체 출처 읽기: r/LocalLLaMA
👀 See Also
M5 Max에서 Flash-MOE 벤치마크: Qwen3.5-397B로 12.99 토큰/초
3970억 파라미터 규모의 Qwen3.5 모델을 MacBook Pro M5 Max(128GB RAM)에서 로컬로 실행한 벤치마크 결과, 4비트 양자화와 cache-io-split 4 설정으로 초당 12.99 토큰을 달성했으며, 이는 원본 48GB 벤치마크보다 세 배 빠른 속도입니다.
Claude Code의 컴퓨터 사용 기능을 활용하여 앱을 시각적으로 테스트하는 오픈소스 SwiftUI 테스팅 스킬
Claude Code용 오픈소스 스킬인 /ios-test는 Computer Use 기능을 활용하여 SwiftUI 앱을 시각적으로 테스트합니다. 에이전트는 .xcodeproj 파일을 찾아 시뮬레이터에서 앱을 빌드한 후, 실제 사용자처럼 모든 화면을 탐색하며 버튼을 탭하고 링크를 따라갑니다.
TinyFish 웹 에이전트, 웹 작업 벤치마킹에서 경쟁사보다 우수한 성능 보여
TinyFish의 웹 에이전트는 어려운 웹 작업에서 81.9%의 성공률을 달성했으며, OpenAI Operator의 43.2%와 같은 경쟁사들을 크게 앞질렀습니다.
iai-mcp: 세션 간 지속적인 OpenClaw 메모리를 위한 로컬 데몬
iai-mcp는 모든 OpenClaw 대화를 캡처하여 로컬 신경 임베딩과 AES-256 암호화로 세 가지 메모리 계층에 저장하고, 새 세션 시작 시 관련 컨텍스트를 다시 제공하는 오픈소스 데몬입니다. — 그대로 재현율 99% 이상, 검색 시간 100ms 미만, 세션 시작 토큰 비용 3k 미만.