OpenAI, DevDay 앞두고 Ultrafast API 모드 확대 준비

OpenAI가 9월 29일 DevDay를 앞두고 Ultrafast API 모드 접근성 확대를 준비 중이다. TestingCatalog는 Responses API Playground에서 Standard, Fast, Ultrafast 처리 옵션을 선택할 수 있는 숨겨진 속도 선택기를 발견했다.

성능 및 인프라

GPT-5.6 Sol과 함께 공식 프리뷰된 Ultrafast 모드는 초당 최대 750개의 출력 토큰을 제공하며, Standard 대비 추론 속도가 최대 14배 빠르다. OpenAI는 이 모드가 Cerebras 기반으로 구동된다고 확인했으며, 이는 2028년까지 단계적으로 용량을 배치하는 750 MW 규모 파트너십과 일치한다.

향후 모델 지원 및 경제성

현재 해당 기능은 일부 고객에게만 제한적으로 제공된다. 최근 GPT-6 시리즈(GPT-6 Sol, GPT-6 Astra 포함)가 출시되면서 더 넓은 모델 지원 여부에 관심이 쏠리지만, 모든 GPT-6 모델이 출시 시점에 Ultrafast를 지원하는지 확인되지는 않았다. 개발자에게 계층형 시스템은 비용과 지연 시간 간 트레이드오프를 제공하며, 응답 시간이 수익이나 생산성에 직접적인 영향을 미치는 워크로드에 더 높은 비용의 추론을 할당할 수 있게 한다.