NVIDIA veröffentlicht Nemotron-3-Ultra-550B: 55B aktive Parameter, 1M Kontext, LatentMoE Hybrid
NVIDIA hat Nemotron-3-Ultra-550B-A55B-BF16 veröffentlicht, ein bahnbrechendes LLM mit insgesamt 550B Parametern und 55B aktiven Parametern. Das Modell nutzt eine hybride Latent Mixture-of-Experts (LatentMoE)-Architektur, die Mamba-2-, MoE- und Attention-Layer sowie Multi-Token Prediction (MTP) für schnellere Generierung kombiniert. Die Kontextlänge beträgt bis zu 1M Token.
Wichtige Spezifikationen
- Architektur: LatentMoE-Hybrid – Mamba-2 + MoE + Attention + MTP
- Parameter: 550B gesamt / 55B aktiv
- Kontext: Bis zu 1M Token
- Min. GPU: 8x GB200/B200/GB300/B300, 16x H100, 8x H200
- Sprachen: Englisch, Französisch, Spanisch, Italienisch, Deutsch, Japanisch, Koreanisch, Hindi, brasilianisches Portugiesisch, Chinesisch
- Reasoning: Konfigurierbar ein/aus via Chat-Vorlage (
enable_thinking=True/False) - Lizenz: OpenMDW License Agreement v1.1
Das Modell ist für anspruchsvolles Reasoning, komplexe agentische Workflows, Langkontext-Analysen, Tool-Nutzung, mehrsprachiges Reasoning und hochriskante RAG-Anwendungen konzipiert. Es wurde mit der NVFP4-Pre-Training-Methode für Recheneffizienz trainiert. Offene Gewichte, Trainingsdaten und Rezepte sind unter der OpenMDW-Lizenz enthalten. Für die lokale Inferenz benötigen Sie mindestens 8x H200 oder Vergleichbares.
📖 Zum vollständigen Quelltext: r/LocalLLaMA
👀 Siehe auch
„AI-Washing“: Britische Firmen bezeichnen sich trotz schwacher Verbindungen als KI-Unternehmen um
PR-Führungskräfte berichten, dass britische Unternehmen sie zwingen, gewöhnliche Automatisierung als KI zu bewerben. 50 % der KI-bezogenen Pressemitteilungen werden unter Druck versandt. Beispiele sind AllBirds‘ Wende zu KI-GPUs und eine Immobilienfirma, die einen Handscanner als KI-Tool bezeichnet.
Reddit-Nutzer untersucht, warum KI noch nicht Satellitenbilder nach vermissten Flugzeugen wie der MH370 durchsuchen kann
Ein Reddit-Nutzer bat Claude AI, Satelliten- und Sonardatenbanken zu durchsuchen, um vermisste Flugzeuge wie MH370 und Amelia Earharts Flugzeug zu lokalisieren. Claude antwortete, dass es keine Verbindungen zu diesen Datenbanken und keine Computer-Vision-Tools für großflächige Bildscans hat, obwohl der Nutzer darauf hinweist, dass die notwendigen Technologiekomponente bereits separat existieren.
Meta verfolgt Mitarbeiter-Computerinteraktionen für KI-Agenten-Training
Meta installiert auf den Computern von US-Mitarbeitern Tracking-Software, um Mausbewegungen, Klicks und Tastenanschläge zu erfassen. Diese Daten dienen dem Training von KI-Modellen, die Arbeitsaufgaben eigenständig ausführen können. Das Tool läuft auf arbeitsbezogenen Apps und Websites und macht gelegentlich Bildschirmaufnahmen für den Kontext.
Claude Code v2.1.154: Opus 4.8, dynamische Workflows und wichtige Fehlerbehebungen
Das neue Release bringt Opus 4.8 mit Standard-Hohem-Aufwand, dynamische Workflows zur Orchestrierung von Dutzenden bis Hunderten von Agents, einen schnellen Modus zum doppelten Tarif für 2,5-fache Geschwindigkeit und über ein Dutzend Fehlerbehebungen.