Servidor MCP: Comparando LLMs Locais e na Nuvem com Recurso de Debate

O servidor MCP foi projetado para facilitar a comparação de modelos de linguagem locais e baseados em nuvem, permitindo consultas a vários provedores simultaneamente. Criado por um usuário conhecido como nesquikm, esta ferramenta suporta integração com modelos locais através do Ollama, bem como APIs de nuvem incluindo OpenAI, Gemini, Groq e Together AI.

Detalhes Principais

• Provedores Suportados: Pode ser direcionado para Ollama, LM Studio ou qualquer endpoint compatível com OpenAI.
• Misturar e Combinar Modelos: Combine modelos locais e vários provedores de nuvem em uma única consulta.
• Recursos de Comparação: As respostas são exibidas lado a lado, com opções para os modelos votarem na melhor abordagem ou participarem de debates estruturados, onde um terceiro modelo julga as respostas.
• Uso: Início rápido com o comando npx mcp-rubber-duck. Compatível com múltiplos IDEs e plataformas como Claude Desktop, Cursor, VS Code ou qualquer cliente MCP, e também implantável via Docker.
• Configuração: O repositório está disponível no GitHub em mcp-rubber-duck e é escrito em TypeScript sob a licença MIT. Observe que esta ferramenta ainda está em estágios iniciais e feedback é apreciado, especialmente de quem usa modelos locais como provedores.

Esta ferramenta pode ser particularmente útil para desenvolvedores interessados em entender como diferentes modelos abordam certos problemas, especialmente quando surgem discrepâncias.