Microsoft-Decision-1 공개, 100만 토큰당 0.042달러의 빠른 결정 모델

주요 사양

Microsoft Foundry 카탈로그에 따르면 컨텍스트 창은 32,768토큰이고, 입력은 텍스트, 출력은 JSON이다. 제공 위치는 Microsoft Foundry이며, 카탈로그에는 버전 1, 즉 Azure 직접 제공 모델로 올라 있다. 구조화된 API 호출 뒤에서 한 번의 계산으로 점수를 내도록 설계되었다.

속도와 비용

Microsoft는 이 모델이 자신들이 측정한 모델 중 가장 낮은 지연 시간을 기록했다고 밝혔다. P50 지연 시간 기준으로 GPT-6 Sol보다 약 35배 빠르고, 2위인 H2O-Lightning-4B v1.1보다 2.5배 빠르다. Copilot 팀 시험에서는 GPT5.6 Luna와 비슷한 수준이면서 100배 빨랐다고 한다. XBOX Research의 피드백 분류에서는 GPT-6 Sol과 같은 품질을 14배가 넘는 속도와 200배 낮은 비용으로 냈다고 Microsoft는 밝혔다. 이 수치는 모두 Microsoft 자체 벤치마크 결과이다.

모델이 생성하는 텍스트 없이 확률만 돌려주므로, 호출 비용의 대부분은 입력 상태와 점수를 매길 질문에서 나온다. 출력 토큰이 무료인 이유도 여기에 있다.

안정성과 정확도

Microsoft는 선택지 설명을 다르게 바꿔 쓰거나 선택지의 순서를 뒤집거나 섞어도 답이 바뀐 적이 없고, 평균적으로 교란 입력의 1.3%에서만 답이 바뀌었다고 밝혔다. 정확도 면에서는 학습에서 제외한 거의 150,000개 질문으로 구성된 36개 벤치마크 비교에서 가장 높은 점수를 받았다고 한다. 비교 대상에는 Quyet-1.0-Large, deck-31B, GPT-6 Luna Decisions, Strands Decider 2B 등이 있다. 안전성 시험은 유해 콘텐츠, 탈옥, 프롬프트 주입을 다루는 11개 벤치마크에서 5,250건의 요청으로 진행했다.

용도와 한계

Foundry 카탈로그가 제시하는 용도는 AI 출력 평가, 분류와 라우팅, 에이전트 가드레일, 콘텐츠 안전 점검, 문서 관련성 판단이다. 반대로 열린 형식의 생성, 대화, 번역, 요약에는 맞지 않으며, 사람에 대한 중대한 결정에서 유일한 판단 주체가 되어서는 안 된다고 명시되어 있다.

오픈소스인가

Microsoft-Decision-1은 Alibaba의 오픈 웨이트 Qwen3.5-9B를 기반으로 하지만, Microsoft의 발표문은 자사 가중치를 공개한다고 밝히지 않았고 Hugging Face나 GitHub 링크도 없다. 개발자는 Microsoft Foundry에서 호스팅 모델로 이용하게 된다.

개념 쉽게 풀기

보정된 확률이란 모델이 말하는 확률 값이 실제 정답일 가능성과 비슷하게 맞춰져 있다는 뜻이다. 예를 들어 어떤 선택지에 0.9를 주었다면 그 선택지가 맞을 가능성이 높다고 믿고 쓸 수 있다. 개발자는 이 값을 기준으로 임계값을 정해, 확신이 낮은 건은 사람에게 넘기는 식으로 흐름을 짤 수 있다. 또 모델이 문장을 쓰지 않고 한 번의 계산으로 점수를 내므로 지연이 적다. 에이전트가 도구를 고르는 순간이나 사용자 입력이 안전한지 거르는 순간처럼 응답 속도가 중요한 지점에 맞는 이유이다.

도입 전 확인할 점

Microsoft가 제시한 속도와 비용 비교는 모두 Microsoft 자체 시험 결과이다. 또 이 모델은 Foundry에서만 쓸 수 있고 가중치 공개 여부가 밝혀지지 않았으므로, 자체 서버에 올려 쓰는 계획은 세우기 어렵다. 사람에게 영향을 주는 중대한 결정을 맡기는 용도로 쓰지 말라는 카탈로그의 경고도 반드시 지켜야 한다.

왜 중요한가

에이전트 파이프라인은 어떤 도구를 부를지, 어느 팀에 티켓을 보낼지, 출력이 안전한지 같은 작은 결정을 수없이 한다. 그때마다 큰 LLM에 비용을 내면 느리고 비싸다. 이 모델은 그런 판단을 싸고 빠르게 처리하는 데 목적이 있다. Microsoft는 이 모델을 곧 MAI와 OpenAI 모델 기반으로 다시 만들 계획도 밝혔다. 라우팅, 분류, 가드레일 단계를 만드는 개발자가 주 대상이다.