Настройка MCP-серверов в веб-интерфейсе llama-server: практическое руководство

В llama-server недавно добавили поддержку MCP (Model Context Protocol), и пользователь Reddit задокументировал точные шаги для её настройки в веб-интерфейсе. Это руководство предоставляет конкретные инструкции по настройке для разработчиков, которые хотят интегрировать MCP-серверы со своей локальной копией llama-server.

Требования к настройке

Сначала убедитесь, что установлен uv. В руководстве есть ссылка на официальную документацию по установке: https://docs.astral.sh/uv/getting-started/installation/.

Файл конфигурации

Создайте файл config.json в выбранной вами директории с определениями MCP-серверов. В примере указаны три сервера:

{
  "mcpServers": {
    "time": {
      "command": "uv",
      "args": ["run", "mcp-server-time", "--local-timezone=America/Chicago"]
    },
    "fetch": {
      "command": "uvx",
      "args": ["mcp-server-fetch"]
    },
    "ddg-search": {
      "command": "uvx",
      "args": ["duckduckgo-mcp-server"]
    }
  }
}

Запуск прокси

Из той же директории выполните эту команду:

uvx mcp-proxy --named-server-config config.json --allow-origin "*" --port 8001 --stateless

При запуске этой команды отображается имя каждого MCP-сервера. Вам нужно заменить sse в конце каждого URL на mcp, чтобы серверы работали в веб-интерфейсе llama-server.

Пример: Измените http://127.0.0.1:8001/servers/time/sse на http://127.0.0.1:8001/servers/time/mcp

Настройка веб-интерфейса

В веб-интерфейсе llama-server перейдите в Настройки → MCP → Добавить новый сервер и добавьте каждый сервер из вашей конфигурации. Например:

• http://127.0.0.1:8001/servers/time/mcp
• http://127.0.0.1:8001/servers/fetch/mcp
• http://127.0.0.1:8001/servers/ddg-search/mcp

Нажмите Добавить, чтобы завершить добавление каждого сервера, затем включите переключатель для его активации. Настроенные MCP-серверы теперь должны работать в веб-интерфейсе llama-server.