Kvaser: Открытый AI-оркестратор с локальным управлением, маршрутизацией под-агентов и интеграцией Wolfram

Kvaser — это сервер оркестрации с открытым исходным кодом, который начинался как эксперимент с Qwen 3.6 35B и превратился в полноценный прокси-сервер типа «человек посередине» для локальных AI-рабочих процессов. Он располагается между вашим фронтендом (например, Open WebUI) и бэкендом (llama.cpp), предоставляя стандартную конечную точку OpenAI.

Ключевые технические особенности

• RAG без эмбеддингов: Запрашивает локальные наборы данных Kiwix (Wikipedia, StackOverflow) напрямую через MCP-сервер, избегая накладных расходов векторной базы данных.
• Интеграция с Wolfram Engine: Дополнена дампом Mathematica StackOverflow из Kiwix для улучшения структурирования запросов по символьной математике.
• GEDCOM MCP: Инструмент для работы с генеалогией, который объединяет данные семейного древа с Kiwix для получения исторического контекста.
• Маршрутизация под-агентов: Каждый под-агент может быть настроен индивидуально и направлен на разные машины или модели.
• Интеллектуальная белая список инструментов: Ограничивает, какие инструменты видит каждый под-агент — позволяет небольшим моделям, таким как Qwen 3.5 4B, оставаться сфокусированными, в то время как модель на 35B обрабатывает сложные задачи.
• Алгоритмическое дополнение: Реализует алгоритмические инструменты для сложных задач, таких как поиск общих предков или вычисление родства, вместо использования LLM-вывода.

Архитектура

Система выходит за рамки одного агента к полной модели оркестрации с под-агентами. Это решает проблемы «раздувания инструментов» и сложного обхода деревьев, которые возникли при добавлении новых инструментов.

Пример использования: генеалогия с историческим контекстом

Объединяя данные семейного древа GEDCOM с Kiwix, модель может дополнять записи предков историческим контекстом — это мощный пример локальной оркестрации.

Исходный код

Доступен на GitHub: https://github.com/Na1w/kvaser-core