Nemotron 3.5 Lightning, 30B 규모에 1M 컨텍스트를 갖춘 NVIDIA의 오픈웨이트 경량 모델

라이선스

BF16과 NVFP4 두 가지 변형이 함께 공개됐고 평가 결과는 어느 체크포인트와 설정을 쓰느냐에 따라 달라진다. 가중치에는 OpenMDW-1.1 라이선스가 적용됐고 학습 관련 자료도 함께 공개됐지만 학습 데이터에는 비공개 데이터셋이 섞여 있다. 가중치는 내려받아 로컬이나 자체 인프라에서 돌릴 수 있으나 학습 데이터와 코드가 완전히 공개된 것은 아니어서 엄밀한 오픈소스는 아니다. 가중치와 데이터셋, 학습 자료까지 내놓는 것은 모델 자체를 팔기보다 자사 하드웨어에서 돌아가는 모델 생태계를 넓히려는 전략으로 읽힌다.

가격

100만 토큰 기준으로 NVIDIA가 제공하는 무료 항목은 입력과 출력 모두 0달러이고 컨텍스트 1M, nvfp4 정밀도다. 유료 업체는 Darkbloom이 입력 0.025달러·출력 0.12달러(256K, int4)로 가장 싸고, Io Net이 입력 0.0469달러·출력 0.134달러, DeepInfra가 입력 0.06달러·출력 0.16달러, CoreWeave가 입력 0.07달러·출력 0.20달러(이상 256K)다. 무료 항목만 1M 컨텍스트를 그대로 제공하고 나머지는 모두 256K로 제한된다. 긴 문서를 통째로 넣어야 한다면 업체별 한도를 먼저 확인해야 한다.

성능

공개된 점수는 두 개다. 실제 소프트웨어 이슈를 고치는 SWE-Bench Verified는 51.6%로 70개 중 58위, 대학원 수준 과학 문제 GPQA Diamond는 75.4%로 66개 중 45위다. 둘 다 중하위권이어서 최상위 성능을 내세우는 모델이라기보다 작은 규모와 긴 컨텍스트, 공개 가중치가 강점인 모델이다.

참고할 점

30B급이라 자체 서버나 로컬에서 돌려 보기 쉽고 활성 파라미터가 30억 개로 작아 추론 비용에서 유리할 수 있다. 무료 항목으로 부담 없이 성능을 시험해 본 뒤 유료 업체로 옮겨 속도와 안정성을 비교하는 방법도 있다. 벤치마크가 두 개뿐이라 전체 성능을 판단하기에는 정보가 제한적이다.