MiMo-V2.6 공개: MIT 라이선스로 풀린 샤오미의 1조 파라미터 모델

MiMo-V2.6-Pro-RL, MiMo-V2.6-Flash-RL, MiMo-V2.6-Distill-Qwen-9B의 가중치는 Hugging Face에 MIT 라이선스로 공개되었다. 컨텍스트 윈도우는 1M 토큰이다.

작동 방식

Pro 모델은 희소 전문가 혼합(mixture of experts) 구조이다. 전체 파라미터는 1.02조 개이고 토큰마다 활성화되는 것은 420억 개이며, 라우팅되는 전문가 384개 중 8개가 토큰마다 작동한다. 샤오미는 성능 향상의 원인을 확장된 강화학습으로 꼽다. 프롬프트 1,568개에 롤아웃 16개를 곱한 배치를 단위로 하는 완전 비동기 GRPO, 그룹 단위 에이전트 채점, 다중 프리픽스 다중 교사 온폴리시 증류가 쓰였다고 한다. 이미지는 6억 8100만 파라미터의 MiMo ViT가, 소리는 3억 800만 파라미터의 AudioTokenizer가 처리한다.

주요 스펙

파라미터(Pro): 전체 1.02T, 활성 42B; 컨텍스트 윈도우: 1M 토큰; 라이선스: MIT; 변형: Pro, Flash, Pro-UltraSpeed, Distill-Qwen-9B; 가중치: Hugging Face(XiaomiMiMo); 서빙: SGLang 또는 vLLM.

호스팅 API 변형인 mimo-v2.6-pro, mimo-v2.6-flash, mimo-v2.6-pro-ultraspeed는 샤오미가 자체 플랫폼에서 따로 제공한다. 일반 mimo-v2.6-flash는 대규모로 자주 호출하는 용도에 맞는 저렴한 선택지이다.

벤치마크

샤오미가 공개한 표의 수치이다. DeepSWE v1.1: Pro 71.9%, Flash 67.9%, Claude Opus 5 74%, GPT-5.6 Sol 73%, Claude Fable 5 70%; Toolathlon-Verified: Pro 76.9%, Flash 73.6%, Opus 5 80.6%, GPT-5.6 Sol 74.9%, Fable 5 77.9%; Terminal Bench 2.1: Pro 89.9%, Flash 87.6%, Opus 5 89.1%, GPT-5.6 Sol 88.8%, Fable 5 84.3%; CyberGym: Pro 94%, Flash 95.1%, MiMo-V2.5 Pro 40%.

이전 세대와의 차이는 에이전트 작업에서 특히 크다. MiMo-V2.6 Pro는 DeepSWE v1.1에서 MiMo-V2.5 Pro의 19.0%보다 높은 71.9%, Toolathlon-Verified에서 49.1%보다 높은 76.9%, Terminal Bench 2.1에서 65.2%보다 높은 89.9%, CyberGym에서 40.0%보다 높은 94.0%를 기록했다.

왜 중요한가

1조 파라미터급 옴니모달 모델이 MIT 라이선스로 나온 것은 이례적이다. 자체 호스팅, 파인튜닝, 상업적 배포를 사용 제한 없이 할 수 있기 때문이다. 샤오미의 자체 표에서 Pro는 Terminal Bench 2.1에서 89.9%로 Claude Opus 5의 89.1%를 넘었다.

오픈소스인가, 하드웨어는 얼마나 필요한가

공개된 것은 가중치이다. MIT 라이선스라 상업적 사용이나 수정에 제한이 없다. 다만 MiMo-V2.6-Pro-RL은 토큰당 420억 파라미터가 활성화되는 1.02조 파라미터 모델이므로 GPU 한 장으로는 어렵고 다중 GPU 노드가 필요하다. 샤오미는 텐서 병렬 구성을 지정해 SGLang 또는 vLLM으로 배포하길 권한다. 전체 모델을 돌릴 수 없다면 9B Distill-Qwen 빌드가 대안이다.

참고할 점

UltraSpeed는 비용보다 응답 시간이 중요할 때 고르는 변형으로, 실시간 작업이나 지연에 민감한 작업을 겨냥한다. 위 수치는 모두 샤오미가 자체적으로 공개한 표를 기준으로 한다. 주 대상은 오픈 웨이트 최전선 모델을 직접 호스팅하려는 팀이다.