NVIDIA Vera CPU für agentische KI-Workloads gestartet
NVIDIA hat den Vera CPU vorgestellt, einen Prozessor, der speziell für agentische KI und Reinforcement-Learning-Workloads entwickelt wurde. Laut NVIDIA liefert er Ergebnisse mit 50 % schnellerer Leistung und doppelter Effizienz im Vergleich zu herkömmlichen Rack-Scale-CPUs.
Technische Spezifikationen
Der Vera CPU verfügt über 88 benutzerdefinierte, von NVIDIA entwickelte Olympus-Kerne, die jeweils zwei Aufgaben mithilfe von NVIDIA Spatial Multithreading ausführen können. Er umfasst ein Hochbandbreiten-Speichersubsystem auf Basis von LPDDR5X-Speicher und nutzt das NVIDIA Scalable Coherency Fabric der zweiten Generation für schnellere agentische Reaktionen unter hoher Auslastung.
Systemkonfigurationen
- Neues Vera-CPU-Rack integriert 256 flüssigkeitsgekühlte Vera-CPUs
- Unterstützt mehr als 22.500 gleichzeitige CPU-Umgebungen, die unabhängig mit voller Leistung laufen
- Basierend auf der modularen Referenzarchitektur NVIDIA MGX
- Teil der NVIDIA Vera Rubin NVL72-Plattform mit NVIDIA-GPUs, die über die NVIDIA NVLink-C2C-Verbindung verbunden sind
- Bietet 1,8 TB/s kohärente Bandbreite (7-fache PCIe Gen 6-Bandbreite)
- Dient auch als Host-CPU für NVIDIA HGX Rubin NVL8-Systeme
- Systeme integrieren NVIDIA ConnectX SuperNIC-Karten und NVIDIA BlueField-4 DPUs
Übernahme und Partner
Zu den Kunden, die mit NVIDIA zusammenarbeiten, um den Vera CPU einzusetzen, gehören Alibaba, ByteDance, Meta, Oracle Cloud Infrastructure, CoreWeave, Lambda, Nebius und Nscale. Zu den Fertigungspartnern zählen Dell Technologies, HPE, Lenovo, Supermicro, ASUS, Compal, Foxconn, GIGABYTE, Pegatron, Quanta Cloud Technology (QCT), Wistron und Wiwynn.
Ziel-Workloads
Vera-Systeme sind für Reinforcement Learning, agentische Inferenz, Datenverarbeitung, Orchestrierung, Speicherverwaltung, Cloud-Anwendungen und High-Performance Computing ausgelegt. Systempartner bieten sowohl Dual- als auch Single-Socket-CPU-Serverkonfigurationen an.
Laut Jensen Huang, CEO von NVIDIA: „Die CPU unterstützt das Modell nicht mehr nur; sie treibt es an. Mit bahnbrechender Leistung und Energieeffizienz ermöglicht Vera KI-Systeme, die schneller denken und weiter skalieren.“
📖 Read the full source: HN AI Agents
👀 Siehe auch
Benchmarks zeigen, dass destillierte Modelle bei strukturierten Aufgaben mit Spitzen-LLMs mithalten können – bei 10-fach geringeren Kosten.
Ein umfassender Vergleich kleiner destillierter Qwen3-Modelle (0,6B bis 8B) mit führenden LLMs zeigt, dass destillierte Modelle bei 6 von 9 Aufgaben mittlere führende Modelle erreichen oder übertreffen – bei deutlich geringeren Kosten. Text2SQL erreicht 98,0 % Genauigkeit bei 3 $/Mio. Anfragen gegenüber 378 $ für Claude Haiku.
Mistral AI übernimmt Emmi AI zum Aufbau eines KI-Stacks für das Industrieingenieurwesen
Mistral AI übernimmt Emmi AI und integriert Physics-AI-Modelle für industrielle Simulation in den Bereichen Energie, Automobil, Halbleiter und Luft- und Raumfahrt. Das kombinierte Team von über 30 Forschern wird ein neues Büro in Linz eröffnen.
Mit $3 und ohne menschliche Annotatoren feinabgestimmter Qwen2.5-7B erreicht 96% von Claude Haiku
Ein Entwickler hat Qwen2.5-7B mit nur 3 $ API-Kosten und ohne menschliche Annotatoren auf 96 % der Leistung von Claude Haiku bei einer domänenspezifischen Entscheidungsaufgabe gebracht – mittels einer neuartigen DV-DPO-Methode.
OpenClaw v3.22-Update verursacht Probleme mit Dashboard und WhatsApp
OpenClaw v3.22 hat die Dashboard-Funktionalität und WhatsApp-Integration beeinträchtigt, wobei zwei GitHub-Issues (#52808 und #52813) die Probleme dokumentieren. Benutzern wird empfohlen, nicht auf diese Version zu aktualisieren.