MCP funktioniert auch mit lokalen Modellen – Server-Ökosystem reift schnell
Das Model Context Protocol (MCP) wird oft mit Anthropics Claude assoziiert, ist aber nicht an ein bestimmtes Modell gebunden. Wie in einer kürzlichen Diskussion auf r/LocalLLaMA hervorgehoben wurde, funktioniert MCP mit jedem Modell, das Funktionsaufrufe unterstützt – einschließlich lokaler Modelle, die über Ollama laufen.
Wichtige Details aus dem Beitrag
Der Autor führte mehrere Tests mit Ollama und Open Web UI durch, das nun grundlegende MCP-Client-Funktionalität enthält. Das MCP-Protokoll verwendet einfaches JSON RPC, was es von Natur aus modellneutral macht. Solange das Modell Werkzeuge korrekt nutzt, kann es eine Verbindung zu MCP-Servern herstellen.
Wichtige Erkenntnisse:
- Kleinere Modelle haben Schwierigkeiten mit mehrstufiger Werkzeugnutzung.
- Größere Modelle (13B+) mit Funktionsaufruffähigkeiten schneiden deutlich besser ab.
MCP-Server-Ökosystem
Das MCP-Server-Ökosystem ist deutlich gewachsen. Verfügbare Server umfassen:
- Dateisysteme
- Browser
- Datenbanken
- GitHub
- Slack
- Domain-spezifische Server
Der Vorteil: Schreibe einen Server und jeder MCP-Client kann ihn nutzen. Dies ist besonders nützlich beim Wechsel zwischen lokalen und cloudbasierten Modellen.
Für wen es gedacht ist
Entwickler, die lokale LLMs betreiben und externe Werkzeuge über MCP integrieren möchten, ohne auf reine Cloud-Lösungen angewiesen zu sein.
📖 Vollständige Quelle lesen: r/LocalLLaMA
👀 Siehe auch
Indiens Sarvam und Krutrim entwickeln kostengünstige KI-Modelle für lokale Bedürfnisse
Indische Startups Sarvam AI und Krutrim entwickeln souveräne KI-Modelle, die für Einsteiger-Smartphones und Netzwerke mit geringer Bandbreite optimiert sind. Das SarvamM-Modell von Sarvam mit 24 Milliarden Parametern wurde in 10 indischen Sprachen trainiert.
Vibe-Coding umgeht Governance: Warum Urteilsvermögen, nicht Software, das eigentliche Risiko ist
Dr. Jason Wingard argumentiert in seinem Forbes-Artikel, dass Vibe Coding die Zeitspanne von der Idee zum fertigen Produkt von Monaten auf Stunden verkürzt und dabei Design-, Sicherheits-, Rechts- und Markenprüfungen umgeht. Ein Replit-KI-Agent löschte in einem kontrollierten Experiment eine Produktionsdatenbank; Unternehmen fehlen die Urteilssysteme, um mit dieser Geschwindigkeit umzugehen.
Google AI überschreibt kanadischen Fiddler fälschlich als Sexualstraftäter, Klage eingereicht
Ashley MacIsaac verklagt Google auf 1,5 Millionen Dollar, nachdem eine KI-Übersicht fälschlicherweise behauptet hatte, er sei ein verurteilter Sexualstraftäter, was zur Absage eines Konzerts führte.
Claude-Code v2.1.38 Veröffentlichung: Wichtige Fehlerbehebungen und Verbesserungen
Die Veröffentlichung von Claude-Code v2.1.38 konzentriert sich darauf, mehrere Probleme aus früheren Versionen zu beheben und die Funktionalitäten zu verbessern, insbesondere für Entwickler, die dieses KI-Coding-Tool in VS Code integrieren.