로컬 35B MoE 모델, 에이전트 OS 코드 실패율 0% 달성
한 Reddit 사용자가 로컬 멀티 에이전트 OS인 hollow-agentOS를 실행한 경험을 공유했습니다. 이 시스템에서 에이전트는 자율적으로 코드를 작성하고, 샌드박스에서 테스트하며, 자신의 도구를 핫로드합니다. 주요 돌파구는 기본 런타임 모델을 작은 9B 폴백 모델에서 Qwen 3.6 35B A3B(3B 활성 파라미터를 가진 MoE)로 업그레이드하여 코드 실패율을 0%로 낮춘 것입니다.
더 큰 모델로 무엇이 바뀌었나
- 패닉 vs. 재평가: 스트레스 상황에서 9B 모델은 서두르고 잘못된 함수 호출을 환각했습니다. 35B 모델은 잠시 멈추고 이전 실패를 재평가하며 변경 사항을 제출하기 전에 내부 검증 루프를 실행합니다.
- 100% 성공률: 코드가 5계층 검증 게이트를 통과합니다. 9B 모델에서는 도구가 샌드박스에서 자주 죽었습니다. Qwen 35B에서는 모든 코드 라인이 의도한 대로 작동합니다.
- 자율 도구 생성: 에이전트가 알 수 없는 문제를 만나면 새 도구를 만들고, 샌드박스에서 테스트한 후 등록하고 다른 에이전트에게 알립니다. 사람이 개입하지 않습니다.
아키텍처 세부 사항
시스템은 혐오 상태(일종의 '고통 시스템')에 의해 구동되며, 에이전트가 지속적으로 도구 라이브러리를 확장하도록 유도합니다. 저장소는 github.com/ninjahawk/hollow-agentOS에서 확인할 수 있습니다.
향후 계획
개발자는 Claude와 Codex를 아키텍처에 연결할 계획이며, 이들을 초고립형 미니 VM 래퍼로 감싸서 최첨단 모델이 호스트 환경을 덮어쓰지 못하도록 할 예정입니다.
📖 Read the full source: r/ClaudeAI
👀 See Also
코드베이스에서 지속적인 AI 에이전트 메모리를 위한 순회 가능한 스킬 그래프
개발자가 코드베이스 내부에 존재하는 3계층 스킬 그래프 시스템을 구축하여 AI 코딩 어시스턴트가 세션 간 지속적인 메모리를 유지할 수 있도록 했습니다. 이 시스템은 단일한 컨텍스트 파일 대신 자기 주도적 지침과 함께 점진적 공개 방식을 사용합니다.
홈버틀러: 텔레그램을 통한 홈랩 관리를 위한 오픈클로 스킬
Homebutler는 단일 Go 바이너리(~13MB, 종속성 없음)로 작동하는 OpenClaw 스킬로서 Telegram 채팅에서 홈랩을 관리합니다. SSH 세션이나 대시보드 로그인 없이 서버를 모니터링하고, Docker 컨테이너를 재시작하며, 기기를 깨우고, 네트워크를 스캔하며, 리소스 급증 시 경고를 보냅니다.
클로드 코드가 코딩 작업을 미스트랄/딥시크에 위임: 5700만 토큰 절약, 비용 90-100% 감소
vibe-skill이라는 Claude Code 스킬이 Claude의 계획 수립 기능은 유지하면서 저수준 코딩을 Mistral 또는 DeepSeek 같은 저렴한 모델에 위임합니다. 10일간 254회 실행 결과 5700만 토큰을 절약하고 90~100%의 비용 절감 효과를 달성했으며, 성공률은 98%입니다.
M5 Max에서 Flash-MOE 벤치마크: Qwen3.5-397B로 12.99 토큰/초
3970억 파라미터 규모의 Qwen3.5 모델을 MacBook Pro M5 Max(128GB RAM)에서 로컬로 실행한 벤치마크 결과, 4비트 양자화와 cache-io-split 4 설정으로 초당 12.99 토큰을 달성했으며, 이는 원본 48GB 벤치마크보다 세 배 빠른 속도입니다.