M3 ProでClaude Codeをオフライン実行：Qwen3.6で動作した4つの修正点

Claude Codeは、Apple M3 Pro（GPUコア18基、ユニファイドメモリ36GiB、約150 GB/s帯域幅）上のローカルモデルqwen3.6:35b-a3b-coding-nvfp4（35.1BパラメータMoEモデル、トークンあたり約3Bアクティブ、NVFP4量子化、ディスク上約21GB、常駐約20GiB）に接続します。このセットアップにより、Kubernetesインシデントを調査からPRまで完遂しました。根本原因の特定、パッチ作成、ブランチのプッシュ、gh経由のPR提出をすべてエアギャップ環境で行いました。4つの修正により、10分でタイムアウトしていたモデルが一連の作業を完了できるようになりました。速度はハードウェアに依存しますが、能力は制限されていません。

スタックと環境

• ハードウェア： Apple M3 Pro、GPUコア18基、36 GiBユニファイドメモリ、約150 GB/sメモリ帯域幅
• モデル： qwen3.6:35b-a3b-coding-nvfp4
• ランタイム： Ollama 0.24.0、MLXランナー（Apple Siliconネイティブ）
• クライアント： Claude Code v2.1.84、ローカルOllamaエンドポイントを指定

主要な環境変数（永続化のためにlaunchd plistで設定）：

OLLAMA_MLX=1
OLLAMA_CONTEXT_LENGTH=32768
OLLAMA_FLASH_ATTENTION=1
OLLAMA_MULTIUSER_CACHE=1
OLLAMA_KEEP_ALIVE=24h
OLLAMA_NO_CLOUD=1

セットアップ手順

1. Ollama 0.24.0+をインストール
2. ollama pull qwen3.6:35b-a3b-coding-nvfp4（約21GB、一度のみ）
3. 上記の環境変数を設定してサーバーを起動
4. Claude Codeを起動：
   ANTHROPIC_BASE_URL=http://localhost:11434 MAX_THINKING_TOKENS=0 claude --model qwen3.6:35b-a3b-coding-nvfp4
5. 動作確認：Run kubectl get pods -A and tell me if anything appears unhealthy

パフォーマンスに関する注意点

初回のツール呼び出し：数秒（思考オフ）。プリフィル（約25Kトークンの読み込み）には約60秒かかります。以降のターンはプレフィックスキャッシュ（OLLAMA_MULTIUSER_CACHE）により高速化されます。モデルはOLLAMA_KEEP_ALIVE=24hによりロードされたまま維持されます。プリフィル中のOllamaログにおける404のバーストは正常です（修正#4）。

MoEアーキテクチャが鍵です：トークンあたり約3Bのみアクティブなため、実行時コストは14Bの密モデルに相当し、回答品質は35Bに迫ります。密な35Bモデルは36GiBに収まりません。