QWEN3.6-27B-MLX-8bit iguala 122B para fluxos de trabalho locais com 29,5GB

Um usuário do Reddit que roda modelos locais para orquestração de agentes, pesquisa e escrita descobriu que o QWEN3.6-27B-MLX-8bit — um download de 29,5GB — tem desempenho equivalente ao seu antigo principal modelo para as mesmas tarefas, apenas mais lento.

A escolha anterior era o QWEN3.5-122B-a10-uncensored-hauhaucs-aggressive, um modelo de 79GB que o usuário descrevia como confiável para fluxos de trabalho de oito horas. O problema não era a qualidade. Era a memória.

Por que o modelo de 79GB virou um problema

Num Mac Studio M3 Ultra com 256GB de RAM, o modelo de 79GB elevava o uso de memória para cerca de 93% assim que a parte de geração de vídeo do fluxo de trabalho entrava em ação. O usuário relatou ser forçado periodicamente a fechar aplicativos para evitar travamentos. O usuário também mencionou que há um Mac Studio adicional planejado, mas dedicado apenas a trabalho de vídeo — então, até lá, recuperar RAM importa.

Antes de chegar ao 27B, o usuário testou outros modelos QWEN e Nemotron ao longo de vários dias e não encontrou nenhum comparável ao 122B para suas cargas de trabalho.

A troca

O resultado do QWEN3.6-27B-MLX-8bit é uma troca direta, segundo os próprios testes do usuário:

• Do lado positivo: Libera 50GB de RAM (pegada de 29,5GB contra 79GB), o que elimina a pressão de memória que forçava o fechamento de aplicativos.
• Do lado do custo: Mais lento que o 122B para as mesmas tarefas.
• Qualidade: O usuário avaliou como tendo desempenho "tão bom em todas essas tarefas" — não é um downgrade na saída, apenas uma perda de velocidade.

Escopo das tarefas

Isso não é uma alegação genérica de benchmark. Os fluxos de trabalho do usuário abrangem orquestração local, pesquisa, escrita e uma etapa de geração de vídeo — o tipo mais pesado e de execução mais longa de pipeline que costuma revelar problemas de memória no Apple Silicon de consumo.

Para quem roda orquestração em sessões longas numa única máquina, a conclusão prática do post é simples: um modelo MLX 8-bit de 29,5GB na escala 27B pode se sustentar contra um quant muito maior, permitindo que você dedique a RAM recuperada a outro ponto do pipeline.

O post completo está no r/openclaw — o usuário diz que há uma thread de testes relacionada que ele publicou antes, caso você queira os detalhes por trás da comparação.