MCP-Server: Vergleich von lokalen und Cloud-LLMs mit Debattierfunktion

Der MCP-Server wurde entwickelt, um den Vergleich von lokalen und cloudbasierten Sprachmodellen zu erleichtern, indem er Abfragen an mehrere Anbieter gleichzeitig erlaubt. Dieses Tool, erstellt von einem Benutzer namens nesquikm, unterstützt die Integration von lokalen Modellen über Ollama sowie Cloud-APIs wie OpenAI, Gemini, Groq und Together AI.

Wichtige Details

• Unterstützte Anbieter: Kann auf Ollama, LM Studio oder jeden OpenAI-kompatiblen Endpunkt gerichtet werden.
• Modelle kombinieren: Kombinieren Sie lokale Modelle und verschiedene Cloud-Anbieter in einer einzigen Abfrage.
• Vergleichsfunktionen: Die Antworten werden nebeneinander angezeigt, mit Optionen für Modelle, um über den besten Ansatz abzustimmen oder an strukturierten Debatten teilzunehmen, bei denen ein drittes Modell die Antworten bewertet.
• Benutzung: Schneller Einstieg mit dem Befehl npx mcp-rubber-duck. Kompatibel mit mehreren IDEs und Plattformen wie Claude Desktop, Cursor, VS Code oder jedem MCP-Client, und auch über Docker bereitstellbar.
• Einrichtung: Das Repository ist auf GitHub unter mcp-rubber-duck verfügbar und in TypeScript unter der MIT-Lizenz geschrieben. Beachten Sie, dass dieses Tool noch in den frühen Phasen ist und Feedback, insbesondere von Benutzern lokaler Modelle als Anbieter, geschätzt wird.

Dieses Tool kann besonders nützlich für Entwickler sein, die verstehen möchten, wie verschiedene Modelle bestimmte Probleme angehen, insbesondere wenn Diskrepanzen auftreten.