AppleのlibibverbsがGPUDirect RDMAシンボルを隠蔽;macOSでゼロコピーMetalバッファRDMAが動作

TinyGPUの調査の続報として、AppleのRDMA実装がMetal GPUバッファとのゼロコピーメモリ共有をサポートしており、隠されたシンボルが文書化されていない以前は知られていなかったGPUDirect RDMAサポートの可能性を示していることが明らかになった。
主な発見
開発者は、4ノードのMacクラスタ(3x M3 Ultra + M5 Max MacBook Pro、約1.5TB統合メモリ、Thunderbolt 5)上で、様々なメモリタイプに対してibv_reg_mr()をテストした。結果は以下の通り:
malloc()— 失敗(予想外、Linuxでは動作)posix_memalign()— 失敗(予想外)mmap(MAP_ANON)— 成功(予想通り)IOSurfaceGetBaseAddress()— 成功(文書化なし)MTLBuffer.contents(Metal共有) — 成功(文書化なし)
AppleのRDMAは、物理的なバッキングではなくVMマッピングタイプを検証する。ヒープ割り当ては失敗し、VMマップされたメモリ(mmap、IOSurface、Metalバッファ)は成功する——これはLinuxとは異なる重要な違いである。
ゼロコピーが証明された
64MBのmmapバッファが三重登録された:RDMAメモリ領域として、Metal GPUバッファとして、そしてIOSurfaceとして。全ての登録が同じlkey=0x101で成功し、GPUとネットワーク間のゼロコピー共有が確認された。
隠されたGPUDirect RDMAシンボル
Appleのlibibverbs.dylibをnm -aで解析したところ、LinuxでGPUDirect RDMAを有効にするibv_reg_dmabuf_mrを含む文書化されていないシンボルが発見された。これはAppleがカーネルレベルの基盤を既に実装しているが、APIが公開されていないことを示唆している。
Blackwell eGPUの状況
Razer Core X V2内のRTX PRO 5000 Blackwell 72GBは検出されており(PCIeリンクアップ、x4 @ 16 GT/s、80 Gb/s TB5)、TinyGPUのDriverKit拡張もロードされる。しかし、NVIDIAのGSPファームウェアはRuntimeError: RPC call 4097 failed with result 101で失敗する。NOCATエラーデコードによりFBFLCN UNRECOGNIZED_CLIENTが明らかになった——GPUのメモリファブリックがTB5経由のPCIeピアを認識していない。これは既知の問題であり(tinygrad#15843)、AMD GPUは正常に動作する。開発者はtinygradチームとの協力を求め、TB5経由でのGSPファームウェア初期化を修正したいとしている。
対象読者
macOSのGPUコンピューティング、RDMA、またはeGPUインフラに取り組む開発者、特に分散推論やトレーニングのためのゼロコピーデータパスに関心のある方。
📖 全文を読む: r/LocalLLaMA
👀 See Also

Claude Opus 4.6のeffort=lowパラメータは、他のプロバイダーの低推論モードとは異なります。
Claude Opus 4.6のeffort=lowパラメータは、OpenAIのreasoning.effort=lowやGeminiのthinking_level=lowとは異なり、推論の深さだけでなく一般的な行動努力を制御します。これにより、エージェントはツール呼び出しを減らし、情報の相互参照が不十分になり、ウェブ調査に関するシステムプロンプトの一部を無視するようになりました。

フォーブス:AIによる解雇の代償がやってくる — CTOは二重の負担を強いられる
Forbesは、AI主導の解雇のコストは企業に二度の打撃を与えると論じている。一度目は退職金と士気の低下、二度目は期待された効率性の向上が実現せず、再雇用が必要になることだ。

LibreOffice Onlineの開発がコミュニティ投票後に再開
コミュニティ投票により2022年の凍結が無効化された後、The Document FoundationはLibreOffice Onlineの作業を再開しました。TDFは貢献を受け付けるためにリポジトリを再開しますが、サーバーをホストすることはなく、代わりに自己ホスト可能なツールを提供します。

テレンス・タオ、AI証明チェッカーについて:Lean、コラボレーション、形式数学
テリー・タオは、数学者が数百人単位で協力し、証明を人間ではなくLeanのようなコンピュータにチェックさせる時代が来ると予言。Quanta Magazineの記事より。