DeepSeek 모델, 이제 Azure를 통해 AI Gateway에서 사용 가능

Vercel의 AI Gateway가 Azure를 통해 DeepSeek V4 Pro 및 V4 Flash 모델을 지원하기 시작했습니다. 이를 통해 개발자는 기존 모델 제공업체와 함께 Azure를 failover 경로로 활용하여 서비스 안정성을 높일 수 있습니다.

별도의 코드 변경 없이도 기본 라우팅에 Azure가 자동으로 포함되며, 특정 모델에 대해 Azure를 우선적으로 사용하도록 설정할 수도 있습니다. AI SDK를 사용하는 경우 providerOptions의 order 옵션을 통해 호출 순서를 지정할 수 있습니다.

AI Gateway는 다음과 같은 핵심 기능을 제공합니다:

• 모델 호출을 위한 unified API 제공
• 사용량 및 비용 추적, 재시도(retry) 및 failover 설정
• Custom Reporting, Zero Data Retention 지원
• API 키별 예산 설정 및 BYOK(Bring Your Own Key) 지원

특히 AI Gateway는 제공업체의 가격을 그대로 반영하며, BYOK 요청을 포함하여 추론에 대한 별도의 플랫폼 수수료를 부과하지 않습니다.