NVIDIA、エージェントAIワークロード向け「Vera CPU」を発表

NVIDIAは、エージェント型AIと強化学習ワークロード向けに特別に構築されたプロセッサ「Vera CPU」を発表しました。NVIDIAによると、従来のラックスケールCPUと比較して、50%高速な性能と2倍の効率性で結果を提供します。

技術仕様

Vera CPUは、NVIDIA独自設計の88個のOlympusコアを搭載しており、各コアはNVIDIA Spatial Multithreadingを使用して2つのタスクを実行可能です。LPDDR5Xメモリを基盤とした高帯域幅メモリサブシステムを備え、第2世代NVIDIA Scalable Coherency Fabricを採用することで、高負荷条件下でのエージェント応答を高速化します。

システム構成

• 新しいVera CPUラックは、256個の液体冷却Vera CPUを統合
• 22,500以上の同時CPU環境をフル性能で独立して維持可能
• NVIDIA MGXモジュラーリファレンスアーキテクチャを使用して構築
• NVIDIA NVLink-C2CインターコネクトでNVIDIA GPUと接続されたNVIDIA Vera Rubin NVL72プラットフォームの一部
• 1.8 TB/sのコヒーレント帯域幅を提供（PCIe Gen 6帯域幅の7倍）
• NVIDIA HGX Rubin NVL8システムのホストCPUとしても機能
• システムはNVIDIA ConnectX SuperNICカードとNVIDIA BlueField-4 DPUを統合

採用とパートナー

Vera CPUの導入でNVIDIAと協力している顧客には、Alibaba、ByteDance、Meta、Oracle Cloud Infrastructure、CoreWeave、Lambda、Nebius、Nscaleが含まれます。製造パートナーには、Dell Technologies、HPE、Lenovo、Supermicro、ASUS、Compal、Foxconn、GIGABYTE、Pegatron、Quanta Cloud Technology (QCT)、Wistron、Wiwynnが含まれます。

対象ワークロード

Veraシステムは、強化学習、エージェント推論、データ処理、オーケストレーション、ストレージ管理、クラウドアプリケーション、高性能コンピューティング向けに設計されています。システムパートナーは、デュアルソケットとシングルソケットのCPUサーバー構成の両方を提供します。

NVIDIAのCEOであるジェンセン・フアンは次のように述べています。「CPUはもはや単にモデルをサポートするものではなく、それを駆動するものです。画期的な性能とエネルギー効率により、Veraはより速く思考し、さらに拡張可能なAIシステムを実現します。」