QWEN3.6-27B-MLX-8bit iguala a 122B para flujos de trabajo locales con 29,5GB

Un usuario de Reddit que ejecuta modelos locales para orquestación de agentes, investigación y escritura descubrió que QWEN3.6-27B-MLX-8bit — una descarga de 29,5GB — rinde igual que su anterior modelo principal para las mismas tareas, solo que más lento.

Su elección anterior era QWEN3.5-122B-a10-uncensored-hauhaucs-aggressive, un modelo de 79GB que el usuario describía como fiable para flujos de trabajo de ocho horas. El problema no era la calidad. Era la memoria.

Por qué el modelo de 79GB se volvió un problema

En un Mac Studio M3 Ultra con 256GB de RAM, el modelo de 79GB elevaba el uso de memoria hasta aproximadamente el 93% una vez que entraba en juego la parte de generación de vídeo del flujo de trabajo. El usuario informó que periódicamente se veía obligado a cerrar aplicaciones para evitar fallos. También señaló que tiene planeado un Mac Studio adicional, pero dedicado exclusivamente al trabajo de vídeo — así que hasta entonces, recuperar RAM es importante.

Antes de decidirse por el 27B, el usuario probó otros modelos QWEN y Nemotron durante varios días y no encontró ninguno comparable al 122B para sus cargas de trabajo.

El intercambio

El resultado de QWEN3.6-27B-MLX-8bit es un intercambio directo, según las propias pruebas del usuario:

• Lo positivo: libera 50GB de RAM (29,5GB de huella frente a 79GB), lo que elimina la presión de memoria que obligaba a cerrar aplicaciones.
• Lo negativo: más lento que el 122B para las mismas tareas.
• Calidad: el usuario lo evaluó como igual de bueno en todas estas tareas — no es un downgrade en la salida, solo una pérdida de velocidad.

Alcance de las tareas

No se trata de una afirmación genérica de benchmark. Los flujos de trabajo del usuario abarcan orquestación local, investigación, escritura y un paso de generación de vídeo — el tipo de pipelines más pesados y de mayor duración que suelen sacar a la luz problemas de memoria en Apple Silicon de consumo.

Para cualquiera que ejecute orquestación en sesiones largas en una sola máquina, la conclusión práctica del post es sencilla: un modelo MLX de 8 bits de 29,5GB a escala 27B puede mantenerse frente a un quant mucho mayor, permitiéndote dedicar la RAM recuperada a otra parte del pipeline.

El post completo está en r/openclaw — el usuario dice que hay un hilo de pruebas relacionado que publicó antes si quieres los detalles detrás de la comparación.