마이크로소프트 Decision-1, AI Gateway에서 제공 시작

마이크로소프트 Decision-1이 AI Gateway에서 제공을 시작했다. 텍스트에 대한 질문을 입력하면 확률, 선택지, 점수를 반환하는 모델로, 지원 요청 분류나 워크플로 단계 선택, AI 응답 평가 등에 활용 가능하다.

기능 및 출력

Decision-1은 예/아니오 질문 답변, 지정된 카테고리 중 선택, 기준에 따른 점수 매기기 등을 수행한다. 하나의 요청에서 여러 질문에 동일한 입력을 사용할 수 있다. 선택지와 점수에는 각 항목의 확률이 포함되므로, 애플리케이션은 이를 바탕으로 즉시 처리하거나 불확실한 결과를 검토 대상으로 표시할 수 있다.

통합 및 접근

개발자는 AI SDK decision API, OpenAI-compatible Decisions API, TypeSafe-compatible API를 통해 Decision-1을 호출할 수 있다. 접근에는 AI Gateway API key만 필요하며, 별도의 Azure 계정이나 배포가 요구되지 않는다. 요청 시 모델 이름으로 microsoft/microsoft-decision-1을 지정하면 된다.

AI Gateway는 모델 통합 접근성을 제공하며 사용량과 비용을 추적한다. Decision 호출은 다른 모델 요청과 함께 로그에 기록되고 예산에 반영된다.