Benchmarks de Desempenho de LLM Local no Mac Mini com OpenClaw e LM Studio

Um usuário do Reddit compartilhou benchmarks de desempenho concretos para executar um modelo de linguagem grande localmente em um Mac Mini com 32GB de RAM. A publicação aborda a escassez de dados específicos de desempenho para esta configuração de hardware.

Detalhes da Configuração Técnica

O usuário relatou a seguinte configuração e resultados:

• Versões de software: OpenClaw 2026.3.8, LM Studio 0.4.6+1
• Modelo: Unsloth gpt-oss-20b-Q4_K_S.gguf
• Tamanho do contexto: 26035
• Métricas de desempenho: 34 tokens/segundo após o primeiro prompt, 0,7 segundo de tempo para o primeiro token

Configuração do Modelo

O usuário especificou estas configurações do modelo (todas nos padrões):

• GPU offload = 18
• Tamanho do pool de threads da CPU = 7
• Máximo de concorrentes = 4
• Número de especialistas = 4
• Flash attention = ativado

A quantização Q4_K_S indica que esta é uma versão quantizada de 4 bits do modelo de 20 bilhões de parâmetros, que reduz os requisitos de memória enquanto mantém um desempenho razoável. Os 32GB de RAM no Mac Mini são suficientes para este tamanho de modelo com o comprimento de contexto fornecido. A taxa de transferência de 34 tokens/segundo é um benchmark prático para desenvolvedores que consideram configurações locais semelhantes de LLM em hardware Apple Silicon.