Qwen 35B-A3B en tant qu'agent toujours actif sur Mac M4 de 16 Go : les E/S disque échouent avant la RAM

Lancer un modèle MoE Qwen 35B-A3B comme agent toujours actif sur un Mac Mini M4 16 Go (configuration de base) semblait plausible sur le papier : avec --mmap et --flash-attn de llama.cpp, la quantification IQ3_XXS (12 Go sur le disque) maintient une empreinte RAM de 4 à 6 Go grâce au pagination par expert, offrant ~17 tok/s avec --threads 8 --ctx-size 4096. En tant qu'outil par lots, ça fonctionne sur cette machine. Mais le passage à une boucle agentique continue, aux côtés de Claude Code (Opus/Sonnet) et Codex CLI, a échoué — et le goulot d'étranglement était le disque, pas la RAM.
La configuration qui a planté
- Démon Ollama servant
qwen3.5:9b+qwen3.5:4b(config :OLLAMA_MAX_LOADED_MODELS=2,OLLAMA_KEEP_ALIVE=10m,OLLAMA_FLASH_ATTENTION=1,OLLAMA_KV_CACHE_TYPE=q8_0) llama-serverpour le 35B sur son propre port- Pont LiteLLM proxyant tout vers un endpoint compatible Claude sur
:4000 - Une ou deux sessions Claude Code
- Session Codex CLI
- Cron habituel du serveur domestique, watchers, file d'attente de courrier
Ce qui a échoué
La pagination mmap continue du 35B + le watcher/indexeur de fichiers de Claude Code + le contexte de Codex = contention SSD constante. Le Mac a commencé à redémarrer spontanément (aucun journal de panique dans log show --predicate 'eventMessage CONTAINS "panic"'), les tâches cron en arrière-plan ont manqué leurs fenêtres de 5 minutes ou plus, puis ont échoué silencieusement. Problèmes connus : les CLI Claude Code et Codex ont des bugs ouverts pour la croissance mémoire lors de longues sessions (#22968), l'utilisation CPU inactif (#19393), et l'accumulation de processus (#11122). Avec un seul harnais c'est invisible ; avec deux plus un 35B paginant en boucle, le disque meurt en premier.
Solution de contournement stable
- LaunchDaemon
llama-serverdu 35B désactivé (plist renommé.disabled) - 24 Go récupérés en supprimant le GGUF du 35B et un vieux Gemma 26B
- Toutes les routes de type Anthropic vont vers Ollama :
qwen3.5:9bpour opus/sonnet,qwen3.5:4bpour haiku - Tous deux résidents Metal via Ollama (~3 Go GPU + 0,5 Go CPU chacun), se nettoient proprement au repos
- LiteLLM déplacé vers un LaunchAgent utilisateur approprié (
KeepAlive=true,ThrottleInterval=30) — c'était un processuspython -m litellmnu depuis 7 jours
Le constat
Le rêve du 35B-A3B en boucle agentique est réalisable sur une machine d'une autre catégorie. Sur une mémoire unifiée de 16 Go, c'est un outil par lots dédié, pas une couche toujours active. L'auteur estime qu'il faut 32 Go de mémoire unifiée minimum pour une inférence agentique MoE soutenue sans souffrance du swap ni contention de démon.
Si vous avez une astuce pour le faire fonctionner durablement sur 16 Go sans contention disque, le fil sur r/LocalLLaMA est toujours actif.
📖 Lire la source complète : r/LocalLLaMA
👀 See Also

L'armée américaine fait pression sur Anthropic pour supprimer les protections de Claude à des fins militaires.
Des responsables militaires américains, dont le secrétaire à la Défense Pete Hegseth, ont rencontré des dirigeants d'Anthropic pour exiger la suppression des protections de Claude contre les applications militaires comme la surveillance de masse et les armes autonomes. Le Pentagone a donné à Anthropic jusqu'à vendredi pour se conformer, sous peine de sanctions incluant l'annulation de contrat.

Anthropic's Claude Fable 5 : Les tests montrent des gains importants, mais les tarifs et les limites de débit inquiètent les développeurs
Claude Fable 5 arrive avec des benchmarks solides en codage et tâches agentiques, mais les développeurs s'inquiètent des tarifs API et des limites de débit.

Cimetière IA : 100 outils IA fermés ou acquis répertoriés – 88 rien qu'en 2026
Le cimetière IA de ToolDirectory.ai recense 100 produits IA disparus ou acquis, avec 88 morts enregistrées en 2026. Les catégories incluent les outils de développement, les agents IA, le support client, et plus encore, de nombreuses acquisitions ayant été intégrées dans des plateformes plus grandes comme Salesforce.

OneUptime ajoute 12 000 articles de blog générés par IA en un seul commit.
Le dépôt de blog de OneUptime a ajouté 12 000 articles générés par IA couvrant ClickHouse, Redis, MongoDB, MySQL et d'autres technologies dans un seul commit qui a modifié 5 012 fichiers et plus d'un million de lignes de code.