AI Gateway, 스트리밍 음성 전사 지원

AI Gateway가 스트리밍 전사(streaming transcription)를 베타 지원한다. 기존에는 전체 오디오 파일을 전송한 뒤 완성된 전사 결과를 한 번에 받아야 했지만, 이제 오디오가 캡처되는 즉시 스트리밍으로 전송하고 모델이 생성하는 전사 결과를 실시간으로 수신할 수 있다.

AI SDK의 streamTranscribe 함수를 통해 사용 가능하며, raw PCM 오디오를 openai/gpt-realtime-whisper 모델에 스트리밍하고 transcript-delta 이벤트로 부분 전사 결과를 수신하는 방식이다. 모델 문자열만 교체하면 xai/grok-stt 등 다른 스트리밍 지원 모델로도 동일하게 동작한다.

음성 입력 기반 에이전트 구현에도 활용할 수 있다. 사용자 음성을 전사 모델에 스트리밍해 실시간 텍스트로 변환한 뒤 에이전트에 전달하는 구조로, 에이전트 자체는 텍스트를 그대로 수신하므로 기존 텍스트 기반 에이전트에 그대로 적용 가능하다.