마이크로소프트, GPT-6 Sol 대비 35배 빠른 의사결정 모델 Microsoft-Decision-1 공개

마이크로소프트가 라우팅, 분류, 우선순위 지정, 워크플로 제어 등 구조화된 의사결정 작업을 위해 설계된 저지연 AI 모델 Microsoft-Decision-1을 공개했다. 범용 LLM과 달리 즉각적이고 실행 가능한 구조화된 출력을 높은 성능과 낮은 지연 시간으로 제공하도록 특화됐다. 현재 Microsoft Foundry에서 사용 가능하며, 조만간 OpenRouter에서도 접근할 수 있게 된다.

성능 및 벤치마크

Microsoft-Decision-1은 학습 데이터에서 제외된 36개 벤치마크와 약 150,000개 질문으로 평가됐다. 결과적으로 속도와 정확도에서 뚜렷한 우위를 보였다.

• 속도: P50 지연 시간이 GPT-6 Sol보다 35배 빠르고, 2위인 Quyet-1.0-Large보다 4.5배 빠름
• 정확도: 벤치마크 스위트 전반에서 최고 정확도를 기록했으며, 라우팅, 랭킹, 긴 컨텍스트, 다국어, 분포 외(OOD) 작업에서 강력한 일반화 성능을 입증
• 견고성: 선택지를 패러프레이징하거나 섞는 교란 테스트에서 의사결정 변경률은 **1.3%**에 불과했으며, 선택지를 역순으로 바꾸거나 섞을 때는 변경이 0건

기술 아키텍처 및 기능

이 모델은 Qwen3.5-9B를 기반으로 후속 학습(post-training)을 수행해 단일 패스(single-pass) 의사결정 점수를 빠르게 산출한다. 각 답변 옵션에 대해 보정된(calibrated) 확률 점수를 제공하며, 예/아니오, 객관식, 평가 형식을 지원한다. 이러한 보정 기능을 통해 애플리케이션은 신뢰도 수준에 따라 즉시 실행, 보류, 또는 인간 검토 요청 여부를 판단할 수 있다.

주요 기능:

• 루브릭 기반 채점: 정의된 기준에 따라 AI 응답 및 에이전트 행동을 평가
• 안전성 필터링: 11개 벤치마크의 5,250개 요청으로 테스트한 결과, 높은 유용성을 유지하면서 유해 콘텐츠를 성공적으로 차단
• API 구조: 간단한 구조화된 API 호출로 의사결정을 수행하며 기존 에이전트 및 워크플로에 쉽게 통합

내부 활용 사례 및 가격

마이크로소프트 내부 팀들은 이미 다양한 운영에 이 모델을 적용했다.

• XBOX 리서치: 10,000건 이상의 피드백을 처리했으며, GPT-6 Sol과 동등한 품질을 유지하면서 속도는 14배 빠르고 비용은 200배 저렴
• Copilot 팀: 채팅 및 에이전트 응답의 품질 관리를 위해 사용했으며, GPT5.6 Luna와 경쟁력 있는 성능을 보이면서 속도는 100배 빠름
• Microsoft Discovery: 과학 실험의 적응형 재계획(adaptive replanning)에 도입해 LLM 기반 접근법 대비 점수 일관성은 46배 높이고, 재계획 속도는 약 4배 향상

가격: 입력 토큰은 백만 토큰당 $0.042 USD이며, 출력 토큰은 무료다.