NVIDIA, Nemotron-3-Ultra-550B 출시: 550억 개의 활성 파라미터, 100만 컨텍스트, LatentMoE 하이브리드
NVIDIA가 Nemotron-3-Ultra-550B-A55B-BF16을 출시했습니다. 총 550B 파라미터 중 55B가 활성화되는 최첨단 LLM입니다. 이 모델은 Latent Mixture-of-Experts (LatentMoE) 하이브리드 아키텍처를 사용하며, Mamba-2, MoE, 어텐션 레이어를 혼합하고 다중 토큰 예측(MTP)으로 생성 속도를 높입니다. 컨텍스트 길이는 최대 100만 토큰입니다.
주요 사양
- 아키텍처: LatentMoE 하이브리드 – Mamba-2 + MoE + Attention + MTP
- 파라미터: 총 550B / 활성 55B
- 컨텍스트: 최대 100만 토큰
- 최소 GPU: 8x GB200/B200/GB300/B300, 16x H100, 8x H200
- 언어: 영어, 프랑스어, 스페인어, 이탈리아어, 독일어, 일본어, 한국어, 힌디어, 브라질 포르투갈어, 중국어
- 추론: 채팅 템플릿으로 온/오프 구성 가능 (
enable_thinking=True/False) - 라이선스: OpenMDW License Agreement v1.1
이 모델은 최첨단 추론, 복잡한 에이전트 워크플로, 장문 컨텍스트 분석, 도구 사용, 다국어 추론, 고위험 RAG에 적합합니다. 컴퓨팅 효율성을 위한 NVFP4 사전 학습 레시피로 훈련되었습니다. 오픈 웨이트, 학습 데이터, 레시피가 OpenMDW 라이선스에 포함되어 있습니다. 로컬 추론에는 최소 8x H200 또는 이에 준하는 장비가 필요합니다.
📖 전체 출처 읽기: r/LocalLLaMA
👀 See Also
오케스트레이터: 프로세스보다 의도가 중요해야 하는 이유
현재 에이전트 스택은 정체성과 표면을 뒤집어 놓았습니다. 오케스트레이션 계층은 에이전트와 런타임 사이에 위치해야 하며, 정체성, 라우팅, 핸드오프 프리미티브, 그리고 크로스 드라이버 호출을 제공해야 합니다. 실제 예: Ollama, Gemini CLI, Grok Build에서 하나의 의도로 불안정한 테스트를 분류하기.
클로드 코드 오퍼스 4.6, 이제 기본 컨텍스트 윈도우가 100만 토큰으로 확장
클로드 코드의 오푸스 4.6 모델이 이제 기본적으로 100만 토큰 컨텍스트 윈도우를 제공하며, 이전 버전과 동일한 가격을 유지합니다. 이 변경 사항은 공식 발표 없이 적용된 것으로 보입니다.
클로드 코드 v2.1.51이 통지 없이 100만 컨텍스트 요금제를 변경했습니다
Anthropic의 Claude Code v2.1.51 업데이트는 Max 플랜에서 1백만 컨텍스트 윈도우에 대한 과금 방식을 조용히 변경했습니다. 이제 20만 개를 초과하는 컨텍스트 토큰은 구독 예산이 남아 있어도 구독 용량을 우회하여 추가 사용량 요금으로 바로 청구됩니다.
Qwen3.6-27B가 단일 24GB GPU에서 실행, SWE-bench에서 기존 397B MoE 능가
Qwen3.6-27B(Apache 2.0, 262K 컨텍스트)는 Q4_K_M에서 약 16.8GB로 실행되며 SWE-bench Verified 77.2를 달성하여 Qwen3.5-397B-A17B MoE(76.2)를 능가합니다. 에이전트 워크플로를 위해 Thinking Preservation을 적용한 Gated DeltaNet 선형 어텐션을 사용합니다.