NVIDIA выпускает Nemotron-3-Ultra-550B: 55B активных параметров, контекст 1M, гибрид LatentMoE
NVIDIA выпустила Nemotron-3-Ultra-550B-A55B-BF16 — LLM масштаба frontier с общим количеством параметров 550 млрд и 55 млрд активных. Модель использует гибридную архитектуру Latent Mixture-of-Experts (LatentMoE), которая чередует слои Mamba-2, MoE и Attention, а также механизм Multi-Token Prediction (MTP) для ускоренной генерации. Длина контекста достигает 1 млн токенов.
Ключевые характеристики
- Архитектура: Гибрид LatentMoE – Mamba-2 + MoE + Attention + MTP
- Параметры: 550 млрд всего / 55 млрд активных
- Контекст: до 1 млн токенов
- Минимум GPU: 8x GB200/B200/GB300/B300, 16x H100, 8x H200
- Языки: английский, французский, испанский, итальянский, немецкий, японский, корейский, хинди, бразильский португальский, китайский
- Рассуждения: Включаются/отключаются настраиваемо через шаблон чата (
enable_thinking=True/False) - Лицензия: OpenMDW License Agreement v1.1
Модель предназначена для передовых рассуждений, сложных агентных рабочих процессов, анализа длинных контекстов, использования инструментов, многоязычных рассуждений и высокорискового RAG. Она обучена с использованием NVFP4 для вычислительной эффективности. Открытые веса, обучающие данные и рецепты включены в лицензию OpenMDW. Для локального вывода потребуется минимум 8x H200 или эквивалент.
📖 Источник: r/LocalLLaMA
👀 Смотрите также
Не используйте ИИ для написания того, что вы выдаете за свою собственную работу
Джеймс Бах выступает против использования ИИ для написания любого контента, который вы выдаете за свой. Он предупреждает, что признание помощи ИИ обесценивает вашу репутацию и заставляет относиться к такой работе как к халтуре.
Обновление OpenClaw .23 вызывает проблемы с агентом и потерю данных
Обновление OpenClaw .23 приводит к тому, что агенты перестают отвечать, не выполняют задачи и теряют соединение с расширениями браузера. Запуск команды восстановления может полностью удалить JSON-конфигурации, требуя восстановления из резервных копий системы.
Клод 4.6 Opus способен воспроизвести list.h из Linux на основе минимальных входных данных
Пользователь продемонстрировал, что Claude 4.6 Opus может генерировать почти идентичную копию заголовочного файла list.h из Linux, получив первые 43 строки в качестве входных данных с температурой, установленной на 0, что поднимает вопросы о последствиях лицензирования GPL для моделей ИИ, обученных на открытом исходном коде.
Бенчмарк SPLICE показывает, что визуально-языковые модели испытывают трудности с временными рассуждениями и полагаются на языковые пресуппозиции.
Исследование, представленное на EMNLP 2025, показывает, что модели «визуальный язык» плохо справляются с задачей упорядочивания видео, в которой люди преуспевают. Модели, такие как Gemini 2.0 Flash, достигают точности 51% по сравнению с человеческим показателем в 85%. Модели часто полагаются на визуальные «ярлыки» и текстовые описания, а не на истинное понимание визуальной информации.