Qwen3.6:27b + Agente Go Personalizado: Una Alternativa Local a Claude Code

Un desarrollador (codehamr) que dirige un negocio de integración de LLMs locales describe experimentos con modelos locales como respaldo para Claude Code. Informa que Qwen3.6:27b en Q8 en una RTX 6000 con 96GB y contexto de 128k ofrece una experiencia de codificación similar a Claude Code, y señala que una RTX 5090 de consumo con 32GB en Q4_M puede lograr resultados comparables.

Para la capa de agente, construyeron un binario Go único y minimalista llamado codehamr (código abierto MIT) — sin complementos, sin MCP, sin temas. El agente maneja búsqueda, dependencias y trabajo con archivos a través de bash bajo demanda. El repositorio está disponible en: https://github.com/codehamr/codehamr

Detalles clave

• Modelo: Qwen3.6:27b en cuantización Q8, ejecutándose en RTX 6000 (96GB) con contexto de 128k — excesivo para un modelo de 30B.
• Alternativa de consumo: RTX 5090 (32GB) en Q4_M debería ofrecer una experiencia de codificación similar con buena disciplina en las indicaciones.
• Construcción del agente: Binario Go personalizado — minimalista, sin complementos, sin MCP. Usa bash para búsqueda, dependencias, operaciones con archivos.
• Licencia: Código abierto MIT, disponible para bifurcar o ignorar.

El desarrollador enfatiza que cada paso hacia LLMs locales reduce la dependencia de herramientas en la nube. Esta configuración, combinada con indicaciones disciplinadas, es la primera configuración local donde no echan de menos a Claude Code.