Kvaser: Открытый AI-оркестратор с Wolfram и локальным MCP

Kvaser — это сервер оркестрации с открытым исходным кодом, который начинался как эксперимент с Qwen 3.6 35B и превратился в полноценный прокси-сервер типа «человек посередине» для локальных AI-рабочих процессов. Он располагается между вашим фронтендом (например, Open WebUI) и бэкендом (llama.cpp), предоставляя стандартную конечную точку OpenAI.

Ключевые технические особенности

RAG без эмбеддингов: Запрашивает локальные наборы данных Kiwix (Wikipedia, StackOverflow) напрямую через MCP-сервер, избегая накладных расходов векторной базы данных.
Интеграция с Wolfram Engine: Дополнена дампом Mathematica StackOverflow из Kiwix для улучшения структурирования запросов по символьной математике.
GEDCOM MCP: Инструмент для работы с генеалогией, который объединяет данные семейного древа с Kiwix для получения исторического контекста.
Маршрутизация под-агентов: Каждый под-агент может быть настроен индивидуально и направлен на разные машины или модели.
Интеллектуальная белая список инструментов: Ограничивает, какие инструменты видит каждый под-агент — позволяет небольшим моделям, таким как Qwen 3.5 4B, оставаться сфокусированными, в то время как модель на 35B обрабатывает сложные задачи.
Алгоритмическое дополнение: Реализует алгоритмические инструменты для сложных задач, таких как поиск общих предков или вычисление родства, вместо использования LLM-вывода.

Архитектура

Система выходит за рамки одного агента к полной модели оркестрации с под-агентами. Это решает проблемы «раздувания инструментов» и сложного обхода деревьев, которые возникли при добавлении новых инструментов.

Пример использования: генеалогия с историческим контекстом

Объединяя данные семейного древа GEDCOM с Kiwix, модель может дополнять записи предков историческим контекстом — это мощный пример локальной оркестрации.