OpenAI, AI Gateway에 Decisions API 지원 시작

OpenAI의 Decisions API가 AI Gateway에서 OpenAI 호환 /v1/decisions 엔드포인트를 통해 제공된다. 이 통합으로 사용자는 플랫폼 내 다른 모델과 함께 GPT-6 Luna Decisions 같은 의사결정 모델을 활용할 수 있다.

의사결정 모델 작동 방식

일반적인 언어 모델과 달리 의사결정 모델은 공유 입력에 대해 유형이 지정된 질문에 답하며 확률, 선택지, 점수를 반환한다. 이 구조는 라우팅, 분류, 가드레일, 평가 기준 점수 매기기 같은 작업에 적합하다. 사용자는 단일 요청에서 predicate(예/아니오), choice, score 질문을 동일한 입력에 대해 조합할 수 있다.

모델 구분 및 과금

모델 ID openai/gpt-6-luna-decisions는 텍스트 생성용 언어 모델인 openai/gpt-6-luna와 구분된다. 의사결정 ID로 요청하면 Decisions API로 라우팅되며 해당 특정 요금으로 과금된다. 이 엔드포인트는 Jev, Liquid d1, Laya 등 다양한 의사결정 모델을 지원한다.

통합 및 요구 사항

개발자는 OpenAI SDK, AI SDK, 기존 HTTP API /v1/evaluate, 또는 AI CLI를 통해 API와 상호작용할 수 있다.

• OpenAI SDK: decisions.create를 사용하려면 JavaScript는 버전 7.30.0 이상, Python은 3.26.0 이상이 필요하다.
• AI SDK: experimental_decide를 사용하려면 ai 버전 7.0.128 이상이 필요하다. 질문은 이름으로 키가 지정되며, 예/아니오 유형은 boolean으로 라벨링된다.

응답은 질문 순서에 따른 배열로 답을 반환하며, 각 항목에는 질문의 이름이 포함된다.