Mac上でMCPを介してClaudeにローカルLLMをアシスタントとして提供する

Redditユーザーが、Mac Mini M4（24GB RAM）上で動作するローカルLLMに、MCP接続を介してClaudeからアクセスできるようにした方法を詳しく説明しました。この設定では、OllamaがQwen 2.5 Coder（14B）を「Frank」というアシスタントとして提供し、Claudeは特定のルールに従ってタスクを委任できます。例えば、Claude自身よりも少ないトークンを使用し、品質に影響を与えず、最終レビューを必要とします。

設定の詳細

• ハードウェア： Mac Mini M4、24GB RAM。
• ローカルLLM： Qwen 2.5 Coder（14B）、Ollama経由で実行（LM Studioでもテスト済み）。
• 接続： MCP（Model Context Protocol）を使用してClaude（CLIまたはデスクトップアプリ）とローカルモデルをリンク。
• 指示： Claudeには、Frankをいつどのように使用するかのガイドラインを記したメモリマークダウンファイル（memory.md）が与えられました。例えば、テキスト処理、大規模なCSS/HTMLファイルの処理、出力品質を低下させずにトークンを節約できる場合のみ使用するなど。

実用的なユースケース

• テキスト処理と変換 — FrankにオフロードしてClaudeのトークン使用量を削減。
• Claudeが直接処理するにはコストがかかる大規模なCSS/HTMLファイルの処理。
• パフォーマンス、コーディング、ロジックテストの実行 — Claudeは手動ではなくFrankを介してローカルモデルを評価。

ユーザーは、RAM/GPUの限界で動作しており、より大きなモデル（30B以上）はテストできないと述べています。より強力なハードウェアを持つ他のユーザーに、同様の設定を試して結果を共有するよう呼びかけています。

このアプローチにより、Claudeのトークン負荷の高いタスクをオフロードし、Claudeの最終レビューで品質を維持する、無料のアシスタントを事実上作成できます。