NVIDIA 베라 CPU, 에이전트 AI 워크로드를 위해 출시

NVIDIA가 에이전트 AI 및 강화 학습 워크로드를 위해 특별히 제작된 프로세서인 Vera CPU를 선보였습니다. NVIDIA에 따르면, 이는 기존 랙 규모 CPU 대비 50% 더 빠른 성능과 두 배의 효율성으로 결과를 제공합니다.

기술 사양

Vera CPU는 NVIDIA가 자체 설계한 88개의 Olympus 코어를 탑재하고 있으며, 각 코어는 NVIDIA Spatial Multithreading을 사용하여 두 가지 작업을 동시에 실행할 수 있습니다. LPDDR5X 메모리를 기반으로 한 고대역폭 메모리 서브시스템을 포함하며, 높은 활용률 조건에서 더 빠른 에이전트 응답을 위해 2세대 NVIDIA Scalable Coherency Fabric을 사용합니다.

시스템 구성

• 새로운 Vera CPU 랙은 256개의 수냉식 Vera CPU를 통합합니다
• 22,500개 이상의 동시 CPU 환경이 독립적으로 최고 성능을 유지하며 실행됩니다
• NVIDIA MGX 모듈식 참조 아키텍처를 사용하여 제작되었습니다
• NVIDIA Vera Rubin NVL72 플랫폼의 일부로, NVIDIA GPU는 NVIDIA NVLink-C2C 상호 연결을 통해 연결됩니다
• 1.8 TB/s의 일관된 대역폭을 제공합니다(PCIe Gen 6 대역폭의 7배)
• NVIDIA HGX Rubin NVL8 시스템의 호스트 CPU 역할도 수행합니다
• 시스템은 NVIDIA ConnectX SuperNIC 카드와 NVIDIA BlueField-4 DPU를 통합합니다

도입 및 파트너

Vera CPU를 배포하기 위해 NVIDIA와 협력 중인 고객사로는 Alibaba, ByteDance, Meta, Oracle Cloud Infrastructure, CoreWeave, Lambda, Nebius, Nscale가 있습니다. 제조 파트너로는 Dell Technologies, HPE, Lenovo, Supermicro, ASUS, Compal, Foxconn, GIGABYTE, Pegatron, Quanta Cloud Technology (QCT), Wistron, Wiwynn이 포함됩니다.

대상 워크로드

Vera 시스템은 강화 학습, 에이전트 추론, 데이터 처리, 오케스트레이션, 스토리지 관리, 클라우드 애플리케이션, 고성능 컴퓨팅을 위해 설계되었습니다. 시스템 파트너사는 듀얼 및 싱글 소켓 CPU 서버 구성을 모두 제공합니다.

NVIDIA CEO 젠슨 황은 "CPU는 더 이상 단순히 모델을 지원하는 것이 아니라 모델을 주도하고 있습니다. 획기적인 성능과 에너지 효율성으로 Vera는 더 빠르게 생각하고 더 널리 확장되는 AI 시스템을 가능하게 합니다."라고 말했습니다.