Kvaser: 서브 에이전트 라우팅 및 울프럼 통합을 갖춘 오픈소스 로컬 퍼스트 AI 오케스트레이터

Kvaser는 오픈소스 오케스트레이션 서버로, Qwen 3.6 35B를 사용한 실험에서 시작되어 로컬 AI 워크플로우를 위한 완전한 중간자 프록시로 발전했습니다. 프론트엔드(예: Open WebUI)와 백엔드(llama.cpp) 사이에 위치하며, 표준 OpenAI 엔드포인트를 노출합니다.

주요 기술적 특징

• 제로 임베딩 RAG: 로컬 Kiwix 데이터셋(위키백과, StackOverflow)을 MCP 서버를 통해 직접 쿼리하여 벡터 데이터베이스 오버헤드를 피합니다.
• Wolfram Engine 통합: Kiwix의 Mathematica StackOverflow 덤프를 활용하여 기호 수학을 위한 쿼리 구조를 개선합니다.
• GEDCOM MCP: 가계도 데이터를 Kiwix와 결합하여 역사적 맥락을 제공하는 맞춤형 계보 도구입니다.
• 하위 에이전트 라우팅: 각 하위 에이전트를 개별적으로 구성하고 다른 머신이나 모델로 라우팅할 수 있습니다.
• 스마트 도구 화이트리스팅: 각 하위 에이전트가 볼 도구를 제한하여 Qwen 3.5 4B와 같은 작은 모델은 집중력을 유지하고 35B 모델은 복잡한 작업을 처리할 수 있도록 합니다.
• 알고리즘 증강: 공통 조상 찾기나 관계 계산과 같은 복잡한 작업에 대해 LLM 추론 대신 알고리즘 도구를 구현합니다.

아키텍처

이 시스템은 단일 에이전트를 넘어 하위 에이전트를 포함한 완전한 오케스트레이션 모델로 발전했습니다. 이는 더 많은 도구가 추가됨에 따라 발생하는 '도구 비대화'와 복잡한 트리 탐색 문제를 해결합니다.

사용 사례: 역사적 맥락을 포함한 계보

GEDCOM 가계도 데이터와 Kiwix를 결합함으로써 모델은 조상 기록에 역사적 맥락을 추가할 수 있습니다. 이는 로컬 우선 오케스트레이션의 강력한 예시입니다.

소스 코드

GitHub에서 확인 가능: https://github.com/Na1w/kvaser-core