MCP также работает с локальными моделями — экосистема серверов быстро созревает

Протокол Model Context Protocol (MCP) часто ассоциируется с Anthropic Claude, но он не привязан к какой-либо конкретной модели. Как отмечается в недавнем обсуждении на r/LocalLLaMA, MCP работает с любой моделью, поддерживающей вызов функций — включая локальные модели, запущенные через Ollama.

Ключевые моменты из публикации

Автор провёл несколько тестов с использованием Ollama и Open Web UI, который теперь включает базовую функциональность MCP-клиента. Протокол MCP использует простой JSON RPC, что делает его модельно-нейтральным по дизайну. Если ваша модель корректно использует инструменты, она может подключаться к MCP-серверам.

Основные выводы:

• Меньшие модели испытывают трудности с многошаговым использованием инструментов.
• Крупные модели (от 13B) с возможностью вызова функций работают значительно лучше.

Экосистема MCP-серверов

Экосистема MCP-серверов заметно выросла. Доступные серверы включают:

• Файловые системы
• Браузеры
• Базы данных
• GitHub
• Slack
• Доменно-специфичные серверы

Преимущество: напишите один сервер — и любой MCP-клиент сможет его использовать. Это особенно полезно при переключении между локальными и облачными моделями.

Для кого это

Для разработчиков, запускающих локальные LLM и желающих интегрировать внешние инструменты через MCP, не полагаясь исключительно на облачные решения.