AppleのlibibverbsがGPUDirect RDMAシンボルを隠蔽;macOSでゼロコピーMetalバッファRDMAが動作

TinyGPUの調査の続報として、AppleのRDMA実装がMetal GPUバッファとのゼロコピーメモリ共有をサポートしており、隠されたシンボルが文書化されていない以前は知られていなかったGPUDirect RDMAサポートの可能性を示していることが明らかになった。
主な発見
開発者は、4ノードのMacクラスタ(3x M3 Ultra + M5 Max MacBook Pro、約1.5TB統合メモリ、Thunderbolt 5)上で、様々なメモリタイプに対してibv_reg_mr()をテストした。結果は以下の通り:
malloc()— 失敗(予想外、Linuxでは動作)posix_memalign()— 失敗(予想外)mmap(MAP_ANON)— 成功(予想通り)IOSurfaceGetBaseAddress()— 成功(文書化なし)MTLBuffer.contents(Metal共有) — 成功(文書化なし)
AppleのRDMAは、物理的なバッキングではなくVMマッピングタイプを検証する。ヒープ割り当ては失敗し、VMマップされたメモリ(mmap、IOSurface、Metalバッファ)は成功する——これはLinuxとは異なる重要な違いである。
ゼロコピーが証明された
64MBのmmapバッファが三重登録された:RDMAメモリ領域として、Metal GPUバッファとして、そしてIOSurfaceとして。全ての登録が同じlkey=0x101で成功し、GPUとネットワーク間のゼロコピー共有が確認された。
隠されたGPUDirect RDMAシンボル
Appleのlibibverbs.dylibをnm -aで解析したところ、LinuxでGPUDirect RDMAを有効にするibv_reg_dmabuf_mrを含む文書化されていないシンボルが発見された。これはAppleがカーネルレベルの基盤を既に実装しているが、APIが公開されていないことを示唆している。
Blackwell eGPUの状況
Razer Core X V2内のRTX PRO 5000 Blackwell 72GBは検出されており(PCIeリンクアップ、x4 @ 16 GT/s、80 Gb/s TB5)、TinyGPUのDriverKit拡張もロードされる。しかし、NVIDIAのGSPファームウェアはRuntimeError: RPC call 4097 failed with result 101で失敗する。NOCATエラーデコードによりFBFLCN UNRECOGNIZED_CLIENTが明らかになった——GPUのメモリファブリックがTB5経由のPCIeピアを認識していない。これは既知の問題であり(tinygrad#15843)、AMD GPUは正常に動作する。開発者はtinygradチームとの協力を求め、TB5経由でのGSPファームウェア初期化を修正したいとしている。
対象読者
macOSのGPUコンピューティング、RDMA、またはeGPUインフラに取り組む開発者、特に分散推論やトレーニングのためのゼロコピーデータパスに関心のある方。
📖 全文を読む: r/LocalLLaMA
👀 See Also

政府高层AI负责人缺乏本地LLM认知:一位开发者的记述
地元LLM開発者の報告によると、ある上級政府AIリーダーは、技術的な基礎を理解しているにもかかわらず、企業がクラウドAPIではなくローカルLLMを選ぶ理由を認識していなかった。

100GB未満のオープンウェイトモデルは、コーディングベンチマークでClaude Haikuに勝てません。
LiveBenchとArena Code/WebDevベンチマークにおけるオープンウェイトモデルの比較によると、100GB未満のモデルではClaude Haiku 4.5に匹敵するものはありません。最も近い競合モデルは136GBのMinimax M2.5で、Haikuの性能とほぼ同等です。

アマゾンの労働者、AI使用割当達成のために空回り業務を発明
社内のAIツール導入義務に対応するため、Amazonの従業員がタスクを捏造したり、利用統計を水増ししたり、指標を操作していることが明らかになった。これはAI導入ポリシーの欠陥を示している。

DebianのAI貢献ポリシーに関する議論は決着なく終了
Debian開発者はAI支援による貢献を受け入れるかどうか議論したが、正式な決定には至らなかった。提案された一般決議では、LLM生成コンテンツに対する明示的な開示とラベル付けが求められていた。