Новичок собрал локальный «второй мозг» на Intel Arc Pro B60: Qwen 3.8 27B на 38 ток/с, контекст 128K

Человек без опыта в программировании собрал преимущественно локального персонального ИИ-агента (OpenClaw) на старом Dell OptiPlex, а затем построил отдельный ИИ-сервер на базе GPU Intel Arc Pro B60. Источник — подробное описание конкретного железа, затрат и результатов, включая запуск Qwen 3.8 27B на скорости ~38 ток/с с контекстным окном 128K.

С чего всё началось

Автор был обычным пользователем чат-ботов — только исследования и написание текстов — пока видео на YouTube про OpenClaw (ИИ-агент, который реально делает вещи, а не просто общается) не подтолкнуло его к сборке. Настройка заняла около 2 дней с использованием бесплатного аккаунта Claude на старом Dell OptiPlex 3431, изначально работавшего на подписке ChatGPT за $20/месяц.

Dell (плоскость управления агента)

• CPU: Intel Core i9-9900 (апгрейд с базового i5)
• RAM: 32GB DDR4-2666 (было 64GB, половина переехала в ИИ-коробку)
• GPU: NVIDIA Quadro P620, 2GB (базовая, бесполезна для ИИ)
• Системный диск: 512GB NVMe (добавлен)
• Хранилище: 2TB SATA SSD (оригинальный)
• ОС: Windows 11 Pro

Запускает OpenClaw (обвязка агента), память, планирование, Telegram (интерфейс чата), бэкапы и хранит локальные модели, готовые к развёртыванию на ИИ-коробке в любой момент.

Проблемы со стабильностью были связаны с дешёвыми модулями памяти «серого рынка», которые Dell поставляла с Amazon — автор подозревает, что плохая RAM повредила файлы Windows. Апгрейд до i9 был назван единственной неудачной тратой на данный момент ($200 на eBay), причём агент буквально умолял не покупать его.

BlackBox (BB) — выделенный ИИ-сервер

Во время работы с агентом автор заказал, а затем отменил Mac Studio за $2000, осознав, что тот не сможет запустить модель, способную делать то, что нужно. Некоторое время он полностью ушёл в облако: Claude за $20/месяц плюс план ChatGPT за $100 = $120/месяц только за работу агента, что ощущалось как ловушка.

Переломным моментом стали небольшие открытые модели — Qwen, GPT-OSS 20B, Mistral, Gemma. Когда вышла Qwen 3.8 27B, он решил собрать отдельную машину, которая не делает ничего, кроме обслуживания ИИ для агента. Это разделение описывается как лучшее решение проекта.

Основное правило

Всё должно быть универсальным и взаимозаменяемым — никогда не привязываться к модели, железу или даже к самой обвязке агента. Это позволяет менять хост-машину агента, оставляя локальный инференс на месте.

Заявленные показатели

Qwen 3.8 27B на скорости примерно 38 ток/с с контекстным окном 128K на Intel Arc Pro B60 — теперь это модель по умолчанию, а облачные модели используются как запасной вариант, а не наоборот. Полные характеристики, конфигурация и цифры — в оригинальном посте.