Локальная настройка Multi-Agent с использованием vLLM, Claude Code и gpt-oss-120b на Linux

Разработчик поделился опытом создания полностью локальной параллельной мультиагентной системы для программирования на Linux после перехода с Windows. Конфигурация использует vLLM для параллельного вывода, Claude Code для оркестрации агентов и большую языковую модель для задач программирования.
Компоненты системы
- Контейнер Docker с vLLM: Используется для простого развертывания и параллельного вывода
- Claude Code: Управляет вибекодингом и оркестрацией команд агентов, настроен на указание локального эндпоинта vLLM вместо облачных провайдеров
- gpt-oss:120b: Служит в качестве кодирующего агента
- RTX Pro 6000 Blackwell MaxQ: Основной GPU для рабочих нагрузок
- Двойная загрузка Ubuntu: Настройка операционной системы
Производительность и улучшения рабочего процесса
Ранее разработчик использовал Ollama и LM Studio, но обнаружил, что они обрабатывают запросы последовательно и испытывают замедления после нескольких поворотов сообщений и вызовов инструментов. С vLLM он достиг параллельной обработки, которая «ускорила» его опыт.
В тестировании система справилась с 4 агентами, работающими одновременно, как показано в видеодемонстрации, при этом GPU способен поддерживать 8 агентов параллельно непрерывно. Единственной отмеченной проблемой было снижение пропускной способности, которое варьируется в зависимости от агента.
Задачи масштаба команд агентов, которые ранее занимали часы для последовательного выполнения, теперь могут быть выполнены примерно за 30 минут, в зависимости от объема проекта. Разработчик оценивает, что добавление второго GPU MaxQ потенциально может масштабировать систему для обработки десятков агентов одновременно.
Этот параллельный подход позволяет выполнять вибекодинг нескольких проектов локально и одновременно, хотя в некоторых сценариях может возникать повышенная задержка. Разработчик считает этот компромисс предпочтительнее, чем завершение проектов по одному агенту за раз.
📖 Прочитать полный источник: r/LocalLLaMA
👀 Смотрите также

Клод + Remotion: Создание видео для запуска продукта без навыков анимации
Разработчик использовал глубокие знания Claude об API Remotion для создания 30-секундного анимированного рекламного видео для приложения фондового рынка — без CSS-переходов, пружинной физики, эффекта пишущей машинки и ступенчатых анимаций в 10 файлах сцен.

Прямое мобильное документирование в OpenClaw: Рабочий процесс передачи данных о здоровье с iOS на Raspberry Pi
Разработчик делится архитектурой для прямой отправки документов с мобильного клиента iOS на локальный экземпляр OpenClaw на Raspberry Pi, используя QR-сопряжение и выделенные конечные точки для обработки медицинских записей.

Конвейер TDD с ИИ: Как плохие инструкции породили 3 400 тестов и что это исправило
Разработчик создал многокомпонентный конвейер TDD с использованием Claude Code, где разные агенты занимаются тестированием, написанием кода и ревью. Исходная инструкция «написать тесты для всего» привела к созданию 3400 тестов, из которых только 44% были валидными, что вылилось в «театр покрытия», где тесты не выявляли реальные ошибки.

Создание менеджера буфера обмена для macOS с помощью Claude: Практический пример рабочего процесса
Разработчик создал Buffer — менеджер буфера обмена с открытым исходным кодом для macOS, используя Claude в качестве партнёра по планированию и парному программированию. Он обнаружил, что начинать с планов реализации перед написанием кода сокращает количество бесполезных запросов и отладки.