Рекомендации по настройке локальной LLM для OpenClaw

✍️ OpenClawRadar📅 Опубликовано: 18 апреля 2026 г.🔗 Source
Рекомендации по настройке локальной LLM для OpenClaw
Ad

Обзор настройки

Пользователь на r/openclaw поделился своей текущей конфигурацией для интеграции локальной большой языковой модели (LLM) с OpenClaw. Он использует отдельное оборудование: устройство GB10 специально для запуска модели ИИ и Mac mini для основной установки OpenClaw.

Детали конфигурации

Процесс настройки описан как в основном стандартный, с одним ключевым отклонением: когда появляется запрос на выбор LLM, необходимо выбрать опцию 'custom LLM'. Пользователь указывает "ввести ваш ip" на этом этапе. Он отмечает, что большинство настроек будут использовать OpenAI-совместимые конечные точки через такие инструменты, как vLLM, SGLang или llama.cpp.

Что касается выбора модели, пользователь дает конкретное предупреждение и рекомендацию:

  • Совет по выбору модели: "не выбирайте самую большую модель, которая помещается в вашу видеопамять, вам нужно найти баланс между контекстными токенами и размером модели."
  • Текущая модель: Он использует unsloth/MiniMax-M2.5-GGUF:UD_Q2_K_XL + 24000.
  • Сервер вывода: Он использует llama.cpp для запуска модели.
Ad

Конечная точка сервера

Локальный сервер вывода настроен на работу по адресу localhost:8080/v1. Это обеспечивает OpenAI-совместимую конечную точку API, к которой может подключаться OpenClaw.

Пользователь отмечает, что это работа в процессе, заявляя: "Я все еще тестирую openclaw, поэтому, возможно, перейду на другую модель, если токенов будет недостаточно." Это подчеркивает практический, итеративный характер поиска подходящей модели для конкретных требований к окну контекста рабочего процесса.

📖 Прочитать полный источник: r/openclaw

Ad

👀 Смотрите также

Оптимизация настройки OpenClaw: Практические шаблоны и идеи
Гайды

Оптимизация настройки OpenClaw: Практические шаблоны и идеи

Пользователи OpenClaw делятся эффективными шаблонами настройки, такими как использование cron для запланированных задач и создание специализированных подпомощников, чтобы улучшить функциональность и экономическую эффективность.

OpenClawRadar
Camoufox Cookie Injection: браузинг Reddit от вашего имени пока агент работает
Гайды

Camoufox Cookie Injection: браузинг Reddit от вашего имени пока агент работает

Подробный гайд по обходу защиты Reddit через извлечение cookies из Firefox и инъекцию в Camoufox через Playwright.

OpenClaw community
Реализация учета времени в проектах Claude AI
Гайды

Реализация учета времени в проектах Claude AI

Метод, использующий Claude AI, включает в себя временные метки для отслеживания рабочих сессий и отправки напоминаний о перерывах.

OpenClawRadar
Обновление OpenClaw: Исправление ошибок "allowlist miss" при выполнении Telegram
Гайды

Обновление OpenClaw: Исправление ошибок "allowlist miss" при выполнении Telegram

Недавнее обновление OpenClaw привело к сбоям команд exec в Telegram с ошибками 'exec denied: allowlist miss', даже после отключения подтверждений. Для исправления требуется включить расширенный доступ, явно настроить безопасность exec и обновить файлы openclaw.json и exec-approvals.json.

OpenClawRadar