Поддержка MCP объединена в llama.cpp с новыми функциями веб-интерфейса

Запрос на включение изменений (pull request) для Model Context Protocol (MCP) в проект llama.cpp был принят в основную ветку репозитория. Эта интеграция добавляет поддержку MCP к компонентам llama-server и WebUI, открывая несколько новых возможностей для ИИ-агентов программирования и локальных рабочих процессов с большими языковыми моделями (LLM).

Добавленные ключевые функции

Согласно исходному материалу, это слияние открывает следующую функциональность:

• Поддержка MCP для llama-server/WebUI
• Возможность вызова инструментов (tool calls)
• Реализация агентского цикла (agentic loop)
• Функциональность выбора сервера (server selector)
• Управление ресурсами
• Прикрепление промптов (prompt attachments)
• Браузер файлов/ресурсов
• Бэкенд CORS прокси включен с флагом --webui-mcp-proxy

Технические детали

Конкретный запрос на включение изменений, который был принят, — это PR #18655 в репозитории llama.cpp. Контрибьютор упоминает использование OpenWebUI в сочетании с llama.cpp WebUI и ожидал этого слияния.

Для разработчиков, работающих с локальными LLM и ИИ-агентами программирования, эта интеграция означает, что теперь можно использовать инструменты, совместимые с MCP, напрямую через интерфейс llama.cpp WebUI. Флаг --webui-mcp-proxy включает функциональность CORS прокси для бэкенда, что особенно полезно для веб-интерфейсов.

Это обновление в первую очередь предназначено для разработчиков, которые используют llama.cpp для локального вывода LLM и хотят интегрировать инструменты, совместимые с MCP, в свой рабочий процесс через интерфейс WebUI.