Desarrollador Prueba Qwen3.5 27B frente a Modelos Más Grandes para Tareas de Programación Local
Un desarrollador probó varios modelos de lenguaje grandes para tareas de programación local, comparando rendimiento y requisitos de hardware. Las pruebas se centraron en variantes de Qwen3.5 y modelos Nemotron, con comparaciones con GPT-5.4 High.
Resultados y Hallazgos de las Pruebas
El desarrollador probó estos modelos específicos:
- unsloth/Qwen3.5-27B-GGUF:UD-Q4_K_XL
- unsloth/Qwen3.5-35B-A3B-GGUF:UD-Q4_K_XL
- unsloth/Qwen3.5-122B-A10B-GGUF
- unsloth/Qwen3.5-27B-GGUF:UD-Q6_K_XL
- unsloth/Qwen3.5-27B-GGUF:UD-Q8_K_XL
- unsloth/NVIDIA-Nemotron-3-Super-120B-A12B-GGUF:UD-IQ4_XS
- unsloth/gpt-oss-120b-GGUF:F16
Hallazgos clave de las pruebas:
- Nemotron-3-Super-120B funcionó "muy, muy bien", a la par con GPT-5.4 High
- Qwen3.5-27B funcionó bien para tareas de desarrollo
- GPT-OSS-120B y Qwen3.5-122B funcionaron peor que los otros dos modelos
- Nemotron-3-Super-120B respondió consistentemente en español (el idioma nativo del probador) mientras que otros respondieron en inglés
Métricas de Rendimiento
El desarrollador proporcionó números de rendimiento específicos:
- Nemotron-3-Super-120B: 80 tokens por segundo (tg/s), ~2000 procesamiento de prompt (pp), contexto de 100k en vast.ai con 4x RTX 3090
- Qwen3.5-27B Q6: 803 pp, 25 tg/s, contexto de 256k en vast.ai
Requisitos de Hardware
El desarrollador señaló limitaciones de hardware:
- Qwen3.5-122B requeriría una nueva placa base y 1-2 tarjetas RTX 3090 adicionales, haciéndolo demasiado costoso
- Qwen3.5-27B funciona en hardware existente de 2x RTX 3090 sin inversión adicional
- Si tuvieran el hardware para Nemotron-3-Super-120B, lo usarían en su lugar
Detalles de Implementación
El desarrollador planea usar Qwen3.5-27B-GGUF:UD-Q6_K_XL para tareas de desarrollo reales localmente y proporcionó el comando de llama.cpp utilizado para las pruebas:
./llama.cpp/llama-server -hf unsloth/Qwen3.5-27B-GGUF:UD-Q6_K_XL --ctx-size 262144 --temp 0.6 --top-p 0.95 --top-k 20 --min-p 0.00 -ngl 999El desarrollador mencionó que continuará usando CODEX para tareas complejas pero puede reemplazar suscripciones de API para tareas diarias con la configuración local.
📖 Read the full source: r/LocalLLaMA
👀 Ver también
GoStaff: Reescritura en Go de OpenClaw con una reducción de memoria de 100x
GoStaff es una reescritura completa de OpenClaw en Go que reduce el uso de memoria a aproximadamente 17 MB, unas 100 veces menos que la implementación original. Mantiene la compatibilidad completa con los complementos existentes de OpenClaw mientras añade soporte nativo para habilidades en Go y una arquitectura simplificada de binario único.
Claude 4.6 Opus Razonamiento Destilado a 14GB para Apple Silicon mediante Cuantización MLX
Un desarrollador ha cuantizado un modelo Qwen 3.5 27B destilado a partir de trayectorias de razonamiento de Claude 4.6 Opus, reduciéndolo de 55.6GB a 14GB utilizando MLX para Apple Silicon, logrando ~16 tokens/seg en un M4 Pro mientras mantiene las capacidades de razonamiento analítico del modelo.
Repositorio de Guía de Lanzamiento de Productos de IA Gratuita para Usuarios de Claude
Un desarrollador ha publicado un repositorio gratuito que contiene un manual estructurado para el lanzamiento de productos de IA diseñado para funcionar con Claude. El repositorio organiza la experiencia de lanzamiento en etapas prácticas que incluyen estrategia, preparación, ejecución, e incorpora plantillas y referencias de herramientas.
La Herramienta Creadora de Habilidades para OpenClaw Ayuda a los Desarrolladores a Empaquetar Flujos de Trabajo
Un desarrollador creó una habilidad llamada skills-creator que guía a los usuarios en la creación de habilidades de calidad para OpenClaw, abordando problemas comunes como descripciones vagas e instrucciones que parecen documentación. Está disponible en ClawHub y ofrece un enfoque basado en diseño con fórmulas de descripción, listas de verificación y niveles de complejidad.