Benchmarks de Performance des LLM Locaux sur Mac Mini avec OpenClaw et LM Studio

Un utilisateur de Reddit a partagé des benchmarks de performance concrets pour l'exécution d'un grand modèle de langage en local sur un Mac Mini avec 32 Go de RAM. La publication aborde la rareté des données de performance spécifiques pour cette configuration matérielle.

Détails techniques de la configuration

L'utilisateur a rapporté la configuration et les résultats suivants :

• Versions logicielles : OpenClaw 2026.3.8, LM Studio 0.4.6+1
• Modèle : Unsloth gpt-oss-20b-Q4_K_S.gguf
• Taille de contexte : 26035
• Métriques de performance : 34 tokens/seconde après la première requête, 0,7 seconde de temps pour le premier token

Configuration du modèle

L'utilisateur a spécifié ces paramètres du modèle (tous par défaut) :

• Délégation GPU = 18
• Taille du pool de threads CPU = 7
• Concurrents maximum = 4
• Nombre d'experts = 4
• Attention flash = activée

La quantification Q4_K_S indique qu'il s'agit d'une version quantifiée sur 4 bits du modèle à 20 milliards de paramètres, ce qui réduit les besoins en mémoire tout en maintenant des performances raisonnables. Les 32 Go de RAM du Mac Mini sont suffisants pour cette taille de modèle avec la longueur de contexte donnée. Le débit de 34 tokens/seconde constitue un benchmark pratique pour les développeurs envisageant des configurations similaires de LLM en local sur du matériel Apple Silicon.