머큐리 2: 실시간 AI 코딩을 위한 확산 기반 모델

머큐리 2란 무엇인가

머큐리 2는 확산 기반 AI 모델로, 토큰을 순차적으로가 아닌 병렬로 생성하며, 여러 단계에 걸쳐 출력을 개선하는 과정을 사용합니다. 이 접근 방식은 토큰을 하나씩 디코딩하는 기존의 자기회귀 모델과 다릅니다.

기술 사양

• 생성 방식: 순차적인 토큰별 디코딩 대신 확산 기반 생성
• 처리 접근법: 토큰을 병렬로 생성하고 몇 단계에 걸쳐 개선
• 성능: NVIDIA Blackwell GPU에서 1,009 토큰/초 달성 주장
• 가격: 입력 토큰 100만 개당 $0.25, 출력 토큰 100만 개당 $0.75
• 컨텍스트 윈도우: 128K 토큰
• 추론 능력: 조정 가능한 추론
• 도구 통합: 스키마 정렬 JSON 출력과 함께 기본 도구 사용
• API 호환성: OpenAI API 호환

목표 사용 사례

개발자들은 머큐리 2를 다음과 같은 용도로 포지셔닝하고 있습니다:

• 코딩 어시스턴트
• 에이전트 루프(다단계 추론 체인)
• 실시간 음성 시스템
• 다중 홉 검색이 있는 RAG/검색 파이프라인