MTPLX: Apple Silicon上でネイティブMTPヘッドを使用しトークン処理が2.24倍高速化

✍️ OpenClawRadar📅 公開日: May 5, 2026🔗 Source
MTPLX: Apple Silicon上でネイティブMTPヘッドを使用しトークン処理が2.24倍高速化
Ad

MTPLXはApple Silicon向けの推論エンジンで、モデルに内蔵されたMulti-Token Prediction(MTP)ヘッドを投機的ドラフターとして活用します。主な結果:MacBook Pro M5 Max上で、Qwen 3.6 27B 4ビットMLXが温度0.6、top_p 0.95、top_k 20の設定で28 tok/sから63 tok/s(2.24倍高速化)に向上。これらはQwenがコーディングに推奨する正確な設定です。

仕組み

DFlashやDDTree(外部ドラフターモデルが必要で、貪欲法のみ)とは異なり、MTPLXはモデル自身のMTPヘッドを使用します。各MTPヘッドが順次ドラフトを生成し、トークンごとの確率分布を出力します。これにより、温度と残差補正を用いた正確な棄却サンプリングが可能になります。外部ドラフターがないため、追加メモリ使用もありません。

Qwen 3.6 27B(深さ5までのMTPヘッド搭載)では、D2~D5をスイープした結果、最適な深さはD3と判明。より深い深さ(D4/D5)は初期の受容率は良好でしたが、深い位置での検証時間が節約できるトークン数を上回りました。

DFlash / DDTreeとの比較

DFlash MLXは生の速度では優れていますが、貪欲法(温度0)サンプリングのみに制限されており、実用的な使用が大きく制限されます。DDTreeも同様の制限を継承しています。両方とも外部ドラフターが必要です。MTPLXは、MTPヘッドを保持し、完全な温度サンプリング推論をサポートする任意のモデルで動作します。

Ad

インストールと使用方法

MTPLXは以下のコマンドを備えた完全なCLIとして提供されます:

  • mtplx start wizard — ガイド付きセットアップ
  • 4段階のMTP互換性検出によるモデルダウンロードと検査
  • 設定可能な深さ2~7以上
  • OpenAI/Anthropic互換APIサーバー、ブラウザチャットUI、ターミナルチャット
  • ベンチマークスイート、ヘルス診断、クラッシュセーフなファン制御(アイドル認識による自動復元)
  • 562のテストスイート付属

エンジンは、カスタムMetalカーネル、コンパイル済み検証グラフ、イノベーションテープGDNロールバック、およびドラフト専用の再量子化LMヘッドを備えた、パッチ適用済みMLXフォーク上に構築されています。

対象ユーザー

Apple Silicon上でローカルLLMを実行し、コーディングやクリエイティブライティングのために出力品質を犠牲にせずに高スループットで温度サンプリング推論を必要とする開発者向け。

📖 全文ソース: r/LocalLLaMA

Ad

👀 See Also

80行のPythonスクリプトがClaudeを使って内部リンク提案を自動生成、リンク作業時間を2時間から8分に短縮
Tools

80行のPythonスクリプトがClaudeを使って内部リンク提案を自動生成、リンク作業時間を2時間から8分に短縮

Redditユーザーが80行のPythonスクリプトを作成。記事の下書きとサイトマップをClaudeに読み込ませ、関連する内部リンク先と推奨アンカーテキストを返すようにしたところ、記事1本あたりの手動リンク作業時間が2時間から8分に短縮された。

OpenClawRadar
クラウ・コンパクター:LLMパイプライン向け14段階トークン圧縮エンジン
Tools

クラウ・コンパクター:LLMパイプライン向け14段階トークン圧縮エンジン

Claw Compactorは、14段階のFusion Pipelineを使用して、LLM推論コストゼロで平均54%の圧縮を実現するオープンソースのLLMトークン圧縮エンジンです。コード、JSON、ログ、差分、検索結果向けの特殊な圧縮器を含み、可逆圧縮機能を備えています。

OpenClawRadar
アンソロピックのマルチエージェントハーネス設計によるクロードのコード品質向上
Tools

アンソロピックのマルチエージェントハーネス設計によるクロードのコード品質向上

Anthropicのブログ記事では、Claudeのコンテキスト不安と自己評価バイアスに対処するために複数のエージェントを使用するハーネス設計について詳述しており、フロントエンドおよびフルスタック開発のための具体的なエージェントの役割と評価基準が示されています。

OpenClawRadar
味蕾记忆:通过超维度计算向量实现的可逆智能体记忆
Tools

味蕾记忆:通过超维度计算向量实现的可逆智能体记忆

ハイパーディメンショナルコンピューティングはベクトル検索を超え、完全な想起を実現:プロジェクトに触れた全日付の一覧、名前のないワークストリームの検出、内積による日次ログの可逆的な分解が可能です。

OpenClawRadar