MCP-Server: Vergleich von lokalen und Cloud-LLMs mit Debattierfunktion
Der MCP-Server wurde entwickelt, um den Vergleich von lokalen und cloudbasierten Sprachmodellen zu erleichtern, indem er Abfragen an mehrere Anbieter gleichzeitig erlaubt. Dieses Tool, erstellt von einem Benutzer namens nesquikm, unterstützt die Integration von lokalen Modellen über Ollama sowie Cloud-APIs wie OpenAI, Gemini, Groq und Together AI.
Wichtige Details
- Unterstützte Anbieter: Kann auf Ollama, LM Studio oder jeden OpenAI-kompatiblen Endpunkt gerichtet werden.
- Modelle kombinieren: Kombinieren Sie lokale Modelle und verschiedene Cloud-Anbieter in einer einzigen Abfrage.
- Vergleichsfunktionen: Die Antworten werden nebeneinander angezeigt, mit Optionen für Modelle, um über den besten Ansatz abzustimmen oder an strukturierten Debatten teilzunehmen, bei denen ein drittes Modell die Antworten bewertet.
- Benutzung: Schneller Einstieg mit dem Befehl
npx mcp-rubber-duck. Kompatibel mit mehreren IDEs und Plattformen wie Claude Desktop, Cursor, VS Code oder jedem MCP-Client, und auch über Docker bereitstellbar. - Einrichtung: Das Repository ist auf GitHub unter mcp-rubber-duck verfügbar und in TypeScript unter der MIT-Lizenz geschrieben. Beachten Sie, dass dieses Tool noch in den frühen Phasen ist und Feedback, insbesondere von Benutzern lokaler Modelle als Anbieter, geschätzt wird.
Dieses Tool kann besonders nützlich für Entwickler sein, die verstehen möchten, wie verschiedene Modelle bestimmte Probleme angehen, insbesondere wenn Diskrepanzen auftreten.
📖 Die vollständige Quelle lesen: r/LocalLLaMA
👀 Siehe auch
companion-capture: Tool speichert Claudes Codes flüchtige Sprechblasen
companion-capture ist ein Open-Source-Tool, das die Sprechblasen des Begleitcharakters von Claude Code erfasst, bevor sie im Terminal verschwinden. Es speichert Nachrichten in Markdown-Dateien und SQLite für die Suche und verwendet VT100-Bildschirmpuffer-Parsing, um Cursorpositionen zu verfolgen.
Aufbau einer dauerhaften KI-Wissensinfrastruktur mit OpenClaw
Ein Entwickler hat 'Brain' gebaut – einen zentralen Wissensdienst mit lokalem RAG, Multi-Agenten-Koordination und einem typisierten Plugin-System – um das Statelessness-Problem in KI-Setups zu lösen. Das System läuft vollständig auf lokaler Hardware mit Ollama, Postgres, MongoDB, Qdrant und Memgraph.
Outworked v0.3.0 fügt iMessage-Unterstützung, einen integrierten Browser und Terminplanung für Claude Code-Agents hinzu.
Outworked v0.3.0 führt iMessage-Kanalunterstützung für die Agentenkommunikation ein, einen integrierten Browser für Web-Interaktionen, Zeitplanung via Cron, Tunneling zur lokalen Freigabe und erweiterte MCP/Skills-Unterstützung. Die Desktop-App orchestriert Claude-Code-Agenten als Team, um Codierungsaufgaben, Web-Recherchen und automatisierte Workflows zu bewältigen.
SmallClaw v1.0.2 fügt ein Hintergrundaufgaben-System für lokale LLMs hinzu.
SmallClaw v1.0.2 führt eine Hintergrund-Task-Engine ein, die mehrstufige Workflows autonom ausführt, mit Schrittverifizierung zur Lösung von Zuverlässigkeitsproblemen kleiner Modelle. Das Update wurde an 4B-Klasse-Modellen wie qwen3:4b auf 8GB-Maschinen getestet.