Nemotron 3.5 Super VL, 에이전트를 위한 NVIDIA의 오픈 120B 비전 모델

작동 방식

구조는 Mamba-2 상태 공간 계층, 어텐션, 전문가 혼합(MoE) 라우터를 섞은 형태이다. 그래서 120B 중 12B만 토큰마다 계산에 참여한다. 이미지와 영상은 C-RADIO 비전 인코더가 받아 모델에 넘긴다. NVIDIA는 Nemotron 3 Ultra에서 증류했고, 약 26조 토큰으로 학습한 뒤 후속 학습과 강화학습을 거쳤다고 설명한다. 동생 모델 Bolt 74B-A9B는 한 걸음 더 나아가, 2비트로 줄인 전문가 계층을 양자화 인식 증류로 복구한 모델이다. 74B 규모에 활성 파라미터 9B이고, 컨텍스트는 256K 토큰이다.

주요 스펙과 라이선스

라이선스는 OpenMDW-1.1이며, NVIDIA는 Nemotron 3.5 계열 전체에 같은 허용적 라이선스를 쓴다고 한다. BF16 체크포인트를 돌리려면 H100 4장 또는 GB200 2장이 필요하다고 허깅 페이스 모델 카드에 적혀 있다. 가중치는 Hugging Face와 ModelScope에 BF16과 NVFP4 버전으로 올라와 있고, 비전 언어 데이터셋 40종을 포함한 학습 데이터와 NeMo Gym 강화학습 환경도 함께 공개되었다. 설치 없이 써 보려면 OpenRouter나 NVIDIA NIM 마이크로서비스를 이용할 수 있다. 자체 호스팅용으로는 vLLM과 SGLang 명령이 모델 카드에 있으며, 다중 토큰 예측 기반 추측 디코딩 설정으로 H100 4장에서 1M 토큰 컨텍스트까지 서비스할 수 있다.

벤치마크

NVIDIA의 표에서 Super VL은 GPQA Diamond 89.52, SWE-bench Verified 71.10을 기록했다. SWE-bench Verified에서는 Qwen3.5-122B-A10B의 71.9%에 가깝지만 Nemotron 3 Ultra의 73.9%, DeepSeek-V4-Flash0731의 75.4%, Qwen3.8-Flash-Next의 78.7%, GLM-5.3-Flash의 79.1%에는 못 미친다. Terminal-Bench 2.1에서는 60.67로, Qwen3.8-Flash-Next의 85.8과 GLM-5.3-Flash의 82.7보다 낮다. NVIDIA가 내세우는 장점은 점수보다 속도로, 같은 크기의 오픈 모델보다 단일 GPU 에이전트 처리량이 최대 5배라고 주장한다.

왜 중요한가

문서를 많이 다루는 에이전트는 보통 언어 모델 옆에 별도의 비전 모델을 두어야 했다. 이 모델은 하나로 송장, 영수증, 화면 녹화를 읽을 수 있고, 오픈 라이선스와 공개 학습 데이터 덕분에 직접 호스팅하기에도 부담이 적다. NVIDIA는 후속 학습 협력사로 Scale AI와 Ramp를, 이 모델을 제품에 넣는 플랫폼으로 Atlassian, CrowdStrike, Perplexity, Salesforce를 꼽았다.

참고할 점

집에서 쓰려면 Bolt 74B-A9B를 고려해야 한다. 약 2비트로 양자화되어 RTX 5090이나 DGX Spark 같은 24GB 환경에 들어간다. NVIDIA는 4GB 크기의 세 번째 모델 Nemotron 3.5 Bolt E4B도 예고했는데, 음성 비서나 상호작용 캐릭터, 물리 에이전트용이고 출시일은 10월 23일이다.

정리

정리하면 Super VL은 하나의 오픈 모델로 글, 문서, 차트, 짧은 영상을 함께 다루려는 에이전트 개발자를 겨냥한 모델이다. 코딩과 터미널 시험에서는 경쟁 모델보다 점수가 낮은 항목이 있으므로, 최고 점수보다 처리 속도와 자체 호스팅 가능성을 중시하는 팀에게 맞는다. 도입 전에 자신의 문서 유형으로 직접 시험해 보는 것이 좋다.