Qwen3.6:27b + Пользовательский Go-агент: локальная альтернатива Claude Code

Разработчик (codehamr), владеющий бизнесом по интеграции локальных LLM, рассказывает об экспериментах с локальными моделями как запасным вариантом для Claude Code. Он сообщает, что Qwen3.6:27b в Q8 на RTX 6000 с 96 ГБ и контекстом 128k обеспечивает схожий с Claude Code опыт кодинга, и отмечает, что потребительская RTX 5090 с 32 ГБ в Q4_M может достичь сопоставимых результатов.

Для уровня агента он создал минимальный, единый Go-бинарник с именем codehamr (MIT с открытым исходным кодом) — без плагинов, MCP и тем. Агент обрабатывает поиск, зависимости и файловые операции через bash по требованию. Репозиторий доступен по адресу: https://github.com/codehamr/codehamr

Ключевые детали

• Модель: Qwen3.6:27b в квантовании Q8, запущенная на RTX 6000 (96 ГБ) с контекстом 128k — избыточно для модели 30B.
• Потребительская альтернатива: RTX 5090 (32 ГБ) в Q4_M должна дать схожий опыт кодинга при хорошей дисциплине в промптах.
• Сборка агента: Пользовательский Go-бинарник — минималистичный, без плагинов, без MCP. Использует bash для поиска, зависимостей, файловых операций.
• Лицензия: MIT с открытым исходным кодом, доступна для форка или игнорирования.

Разработчик подчеркивает, что каждый шаг к локальным LLM снижает зависимость от облачных инструментов. Эта конфигурация в сочетании с дисциплинированным составлением промптов — первая локальная настройка, при которой они не скучают по Claude Code.