Puntos de Referencia de Rendimiento de LLM Local en Mac Mini con OpenClaw y LM Studio

Un usuario de Reddit compartió puntos de referencia concretos de rendimiento para ejecutar un modelo de lenguaje grande localmente en un Mac Mini con 32 GB de RAM. La publicación aborda la escasez de datos de rendimiento específicos para esta configuración de hardware.

Detalles de la configuración técnica

El usuario reportó la siguiente configuración y resultados:

• Versiones de software: OpenClaw 2026.3.8, LM Studio 0.4.6+1
• Modelo: Unsloth gpt-oss-20b-Q4_K_S.gguf
• Tamaño de contexto: 26035
• Métricas de rendimiento: 34 tokens/segundo después del primer prompt, 0.7 segundos de tiempo para el primer token

Configuración del modelo

El usuario especificó estas configuraciones del modelo (todas en valores predeterminados):

• GPU offload = 18
• Tamaño del grupo de hilos de CPU = 7
• Máximo de concurrentes = 4
• Número de expertos = 4
• Atención flash = activada

La cuantización Q4_K_S indica que esta es una versión cuantizada de 4 bits del modelo de 20 mil millones de parámetros, lo que reduce los requisitos de memoria mientras mantiene un rendimiento razonable. Los 32 GB de RAM en el Mac Mini son suficientes para este tamaño de modelo con la longitud de contexto dada. El rendimiento de 34 tokens/segundo es un punto de referencia práctico para desarrolladores que consideran configuraciones locales similares de LLM en hardware Apple Silicon.