QWEN3.6-27B-MLX-8bit égale 122B pour les flux de travail locaux à 29,5 Go

Un utilisateur de Reddit qui exécute des modèles locaux pour l'orchestration d'agents, la recherche et la rédaction a constaté que QWEN3.6-27B-MLX-8bit — un téléchargement de 29,5 Go — est aussi performant que son précédent modèle principal pour les mêmes tâches, simplement plus lentement.

Le choix précédent était QWEN3.5-122B-a10-uncensored-hauhaucs-aggressive, un modèle de 79 Go que l'utilisateur qualifiait de fiable pour des workflows de huit heures. Le problème n'était pas la qualité, mais la mémoire.

Pourquoi le modèle de 79 Go posait problème

Sur un Mac Studio M3 Ultra doté de 256 Go de RAM, le modèle de 79 Go faisait grimper l'utilisation de la mémoire à environ 93 % dès que la partie génération vidéo du workflow se déclenchait. L'utilisateur rapporte avoir régulièrement été contraint de fermer des applications pour éviter les plantages. Il précise aussi qu'un Mac Studio supplémentaire est prévu, mais dédié uniquement au travail vidéo — en attendant, récupérer de la RAM compte.

Avant d'arriver au 27B, l'utilisateur a testé d'autres modèles QWEN et Nemotron pendant plusieurs jours et n'en a trouvé aucun comparable au 122B pour ses charges de travail.

Le compromis

Le résultat avec QWEN3.6-27B-MLX-8bit est un compromis direct, selon les propres tests de l'utilisateur :

• Côté avantages : libère 50 Go de RAM (29,5 Go d'empreinte contre 79 Go), ce qui élimine la pression mémoire qui forçait la fermeture d'applications.
• Côté inconvénients : plus lent que le 122B pour les mêmes tâches.
• Qualité : l'utilisateur a jugé qu'il était « aussi bon sur toutes ces tâches » — pas de dégradation du résultat, juste une perte de vitesse.

Périmètre des tâches

Il ne s'agit pas d'une affirmation générique sur un benchmark. Les workflows de l'utilisateur couvrent l'orchestration locale, la recherche, la rédaction et une étape de génération vidéo — le type de pipelines plus lourds et plus longs qui ont tendance à faire apparaître des problèmes de mémoire sur les puces Apple Silicon grand public.

Pour quiconque exécute de l'orchestration sur de longues sessions sur une seule machine, la conclusion pratique de ce post est simple : un modèle MLX 8 bits de 29,5 Go à l'échelle 27B peut tenir tête à une quantification bien plus grande, vous permettant d'allouer la RAM récupérée ailleurs dans le pipeline.

Le post complet est sur r/openclaw — l'utilisateur indique qu'il a publié un fil de test associé plus tôt si vous voulez les détails derrière la comparaison.