Qwen 35B-A3Bを16GB M4 Macで常時稼働エージェントとして使う場合:RAM不足より先にディスクI/Oが問題に

✍️ OpenClawRadar📅 公開日: April 28, 2026🔗 Source
Qwen 35B-A3Bを16GB M4 Macで常時稼働エージェントとして使う場合:RAM不足より先にディスクI/Oが問題に
Ad

16GBのM4 Mac Mini(基本スペック)で、Qwen 35B-A3B MoEモデルを常時稼働エージェントとして動かすのは、理論上は可能に思えた。llama.cppで--mmap--flash-attnを使い、IQ3_XXS量子化(ディスク上12GB)では、エキスパートページングによりRAM使用量を4~6GBに抑え、--threads 8 --ctx-size 4096で約17トークン/秒を実現する。バッチツールとしてなら、このマシンでも問題なく動作する。しかし、継続的なエージェントループに拡張し、Claude Code(Opus/Sonnet)やCodex CLIと併用したところ、動作は崩壊した。その原因はRAMではなくディスクにあった。

問題が発生した構成

  • Ollamaデーモンがqwen3.5:9bqwen3.5:4bを提供(設定:OLLAMA_MAX_LOADED_MODELS=2OLLAMA_KEEP_ALIVE=10mOLLAMA_FLASH_ATTENTION=1OLLAMA_KV_CACHE_TYPE=q8_0
  • 35B用のllama-serverを別ポートで起動
  • LiteLLMブリッジがすべてをClaude互換エンドポイントとして:4000でプロキシ
  • 1~2のClaude Codeセッション
  • Codex CLIセッション
  • 通常のホームサーバー用cron、ウォッチャー、メールキュー

何が失敗したか

35Bの継続的なmmapページングと、Claude Codeのファイル監視/インデクサ、Codexのコンテキスト保持が組み合わさり、SSDの競合が常に発生した。Macは(log show --predicate 'eventMessage CONTAINS "panic"'でクラッシュログは見つからなかったが)自然に再起動し始め、バックグラウンドのcronジョブは5分以上遅れて実行され、そのまま失敗した。既知の問題として、Claude CodeとCodex CLIには長期セッションでのメモリ増加(#22968)、アイドル時のCPU占有(#19393)、プロセス蓄積(#11122)のバグが報告されている。1つのハーネスだけなら目立たないが、2つに加えてページングを行う35Bで実際のループを実行すると、最初にディスクが限界に達する。

Ad

安定した回避策

  • 35Bのllama-server LaunchDaemonを無効化(plistを.disabledにリネーム)
  • 35BのGGUFと古い26BのGemmaを削除して24GBを解放
  • Anthropic向けのルートはすべてOllamaへ:opus/sonnetはqwen3.5:9b、haikuはqwen3.5:4b
  • どちらもOllama経由でMetalに常駐(それぞれGPU約3GB+CPU約0.5GB)、アイドル時にはきれいに退避
  • LiteLLMを適切なユーザーLaunchAgentに移行(KeepAlive=trueThrottleInterval=30)— それまでは7日間、裸のpython -m litellmプロセスとして動作していた

教訓

35B-A3Bをエージェントループとして動かす夢は、別のクラスのマシンでは実現可能だ。統合16GBでは、これは単目的のバッチツールであり、常時稼働のレイヤーではない。著者は、スワップの苦痛やデーモンの競合なしにMoEエージェント推論を持続させるには、最低32GBの統合メモリが必要だと見積もっている。

もし16GBでディスク競合なく持続的に動かすコツをご存知なら、r/LocalLLaMAのスレッドはまだアクティブです。

📖 Read the full source: r/LocalLLaMA

Ad

👀 See Also

Claude Codeの約12,000トークンの強制システムプロンプトの分析がユーザー設定を上書きする優先ルールを明らかに
News

Claude Codeの約12,000トークンの強制システムプロンプトの分析がユーザー設定を上書きする優先ルールを明らかに

Claude Codeに注入されている約12Kトークンのシステムプロンプトの分析により、歌詞禁止、サブエージェント委任、簡潔さの優先ルールが、ユーザー定義のCLAUDE.mdやメモリファイルを上書きすることが明らかになった。

OpenClawRadar
マルチエージェントシステムにおける関係的ガバナンスの必要性
News

マルチエージェントシステムにおける関係的ガバナンスの必要性

現在のガバナンスフレームワークは、アイデンティティ、権限、緊急停止装置に焦点を当てていますが、エージェント間の調整には対応できていません。研究によると、エージェント間の相互作用には、人間とエージェントの会話を拡大したものではなく、専用に設計されたソリューションが必要です。

OpenClawRadar
AI依存の罠:LLMへの過度な依存が中核スキルを損なう理由
News

AI依存の罠:LLMへの過度な依存が中核スキルを損なう理由

AIチャットボットへの過度の依存が、批判的思考、文章作成、調査、学習能力の衰退につながるという逆張りの主張。

OpenClawRadar
Claude Code v2.1.77 リリース: トークン制限、サンドボックス制御、バグ修正
News

Claude Code v2.1.77 リリース: トークン制限、サンドボックス制御、バグ修正

Claude Code v2.1.77は、Claude Opus 4.6のデフォルト最大出力トークン制限を64kトークンに増やし、allowReadサンドボックスファイルシステム設定を追加しました。このリリースには、メモリ管理からターミナルUIの動作まで、30以上の問題修正が含まれています。

OpenClawRadar