사벤트 커맨더 48B: 12개의 증류 모델로 구성된 맞춤형 Qwen 3 전문가 혼합 모델

Savant Commander 48B는 Claude, Gemini, OpenAI, Deepseek 등 다양한 제공업체의 12개 증류 모델을 결합한 Qwen 3 아키텍처 기반의 맞춤형 Mixture-of-Experts(MOE) 모델입니다. 이 모델은 각 증류 모델을 분리하면서 동시에 모델 간 연결을 유지하기 위해 수동 코딩된 라우팅을 사용합니다.

주요 기능 및 아키텍처

• 256K 컨텍스트 길이의 Qwen 3 기반
• 4x12B MOE 구조(총 48B 매개변수)
• 맞춤형 라우팅으로 각 증류 모델을 분리하면서 모델 간 연결 유지
• 프롬프트 제어 활성화 - 사용자가 사용할 증류 모델 선택 가능
• 동일한 프롬프트를 사용하여 서로 다른 증류 모델 간 직접 비교 가능

모델 변형 및 가용성

이 프로젝트에는 일반 버전과 검열되지 않은("Heretic") 버전이 포함되어 있습니다. 검열되지 않은 버전은 전체 MOE에 적용하는 대신 각 개별 모델에 Heretic 프로세스를 적용한 후 MOE 구조에 추가하여 생성되었습니다.

사용 가능한 GGUF 형식:

• 일반 버전: https://huggingface.co/DavidAU/Qwen3-48B-A4B-Savant-Commander-GATED-12x-Closed-Open-Source-Distill-GGUF
• 검열되지 않은 버전: https://huggingface.co/DavidAU/Qwen3-48B-A4B-Savant-Commander-Distill-12X-Closed-Open-Heretic-Uncensored-GGUF

소스 저장소:

• 일반: https://huggingface.co/DavidAU/Qwen3-48B-A4B-Savant-Commander-GATED-12x-Closed-Open-Source-Distill
• 검열되지 않은: https://huggingface.co/DavidAU/Qwen3-48B-A4B-Savant-Commander-Distill-12X-Closed-Open-Heretic-Uncensored

실제 응용

이 모델의 프롬프트 제어 라우팅을 통해 개발자는 동일한 프롬프트를 사용하여 서로 다른 증류 모델의 출력을 테스트하고 비교할 수 있습니다. 명령 및 제어 기능은 저장소 카드에 자세한 지침과 함께 문서화되어 있습니다.

이러한 MOE 아키텍처 접근 방식은 단일 추론 프레임워크 내에서 여러 전문 모델을 활용하는 실용적인 방법을 제공하며, 특히 모델 동작 비교나 다양한 작업에 대한 특정 모델 특성 선택에 유용합니다.