MCP-Unterstützung in llama.cpp integriert mit neuen WebUI-Funktionen
Der Pull Request für das Model Context Protocol (MCP) für llama.cpp wurde in das Haupt-Repository gemerged. Diese Integration fügt MCP-Unterstützung zu den Komponenten llama-server und WebUI hinzu und ermöglicht mehrere neue Funktionen für KI-Coding-Agenten und lokale LLM-Workflows.
Hinzugefügte Hauptfunktionen
Laut dem Quellenmaterial erschließt dieses Merge folgende Funktionalität:
- MCP-Unterstützung für llama-server/WebUI
- Tool-Aufrufe-Fähigkeit
- Implementierung einer agentischen Schleife
- Server-Selektor-Funktionalität
- Ressourcenverwaltung
- Prompt-Anhänge
- Datei-/Ressourcen-Browser
- Backend-CORS-Proxy aktiviert mit dem
--webui-mcp-proxy-Flag
Technische Details
Der spezifische Pull Request, der gemerged wurde, ist PR #18655 im llama.cpp-Repository. Der Beitragende erwähnt die Verwendung von OpenWebUI in Kombination mit llama.cpp WebUI und hatte dieses Merge erwartet.
Für Entwickler, die mit lokalen LLMs und KI-Coding-Agenten arbeiten, bedeutet diese Integration, dass Sie nun MCP-kompatible Tools direkt über die llama.cpp WebUI-Oberfläche nutzen können. Das --webui-mcp-proxy-Flag aktiviert die CORS-Proxy-Funktionalität für das Backend, was besonders für webbasierte Oberflächen nützlich ist.
Dieses Update richtet sich hauptsächlich an Entwickler, die llama.cpp für lokale LLM-Inferenz verwenden und MCP-kompatible Tools über die WebUI-Oberfläche in ihren Workflow integrieren möchten.
📖 Read the full source: r/LocalLLaMA
👀 Siehe auch
Codesight: KI-Kontext-Engine reduziert 30.000-60.000 Tokens in Claude-Code-Sitzungen
Codesight ist ein Open-Source-Tool, das Codebasen analysiert, um KI-Coding-Agenten strukturierten Kontext zu bieten und Token-Verschwendung zu reduzieren. Ein Entwickler arbeitete mit dem Maintainer zusammen, um AST-Parsing für Next.js und Prisma, eine Testsuite, Token-Telemetrie und Profile für Claude Code und Cursor hinzuzufügen.
Artifactr: Lokal-first CLI-Tool zur Verwaltung von KI-Codierungsagent-Artefakten
Artifactr ist ein kostenloses, quelloffenes CLI-Tool zur Verwaltung von LLM-Artefakten wie Fähigkeiten, Befehlen und Agentendefinitionen. Es speichert Dateien in portablen Tresoren ohne Netzwerkverbindungen und unterstützt automatische Synchronisierung über Symlinks.
MLJAR Studio: Lokaler KI-Datenanalyst, der reproduzierbare Notebooks erstellt
MLJAR Studio ist eine Desktop-App, die Fragen in natürlicher Sprache in lokal ausgeführte Python-Notebooks umwandelt, mit AutoML für tabellarische Daten und Unterstützung für lokale LLMs über Ollama.
Handoffs-Muster in Claude-Workflows: Zwei-Datei-Aufteilung vs. Ein-Dokument-Zusammenfassung
Lange Claude-Sitzungen leiden unter Kontextverfall. Handoffs komprimieren das Wesentliche und starten neu. Zwei Ansätze: Matt Pococks Single-Dokument-Handoff-Skill vs. eine Zwei-Datei-Aufteilung mit persistentem Narrativ und ephemerem Prompt.