Сервер MCP: Сравнение локальных и облачных LLM с функцией дебатов

Сервер MCP разработан для упрощения сравнения локальных и облачных языковых моделей, позволяя одновременно делать запросы к нескольким поставщикам. Этот инструмент создан пользователем с ником nesquikm и поддерживает интеграцию с локальными моделями через Ollama, а также с облачными API, такими как OpenAI, Gemini, Groq и Together AI.

Ключевые детали

• Поддерживаемые поставщики: Можно настраивать для Ollama, LM Studio или любого другого совместимого с OpenAI конечного точки.
• Смешивайте и сопоставляйте модели: Комбинируйте локальные модели и различных облачных провайдеров в одном запросе.
• Функции сравнения: Ответы отображаются рядом, с возможностью для моделей голосовать за лучший подход или участвовать в структурированных дебатах, где третья модель оценивает ответы.
• Использование: Быстрый старт с командой npx mcp-rubber-duck. Совместим с несколькими IDE и платформами, такими как Claude Desktop, Cursor, VS Code или любым клиентом MCP, а также может быть развернут через Docker.
• Настройка: Репозиторий доступен на GitHub по адресу mcp-rubber-duck и написан на TypeScript под лицензией MIT. Учтите, что этот инструмент все еще на ранних стадиях разработки, и отзывы приветствуются, особенно от тех, кто использует локальные модели в качестве поставщиков.

Этот инструмент может быть особенно полезен для разработчиков, заинтересованных в том, чтобы понять, как различные модели подходят к определенным задачам, особенно когда возникают расхождения.