AI Gateway 프로덕션 지표

Vercel AI Gateway가 지난 7개월간 20만+ 팀의 프로덕션 트래픽을 분석한 결과, 모델 경쟁은 벤치마크보다 실제 운영에서 더 선명하게 갈렸다. 4월 기준 지출은 Anthropic 61%, Google 21%, **OpenAI 12%**였지만, 토큰 사용량은 Google 38%, Anthropic 26%, OpenAI 13%, **xAI 10%**로 정반대였다.

고볼륨 워크로드는 평균 30개+ 모델을 오가며 특정 랩에 묶이지 않았다. 오픈소스 모델도 점차 채택되고 있지만, 실제 고객은 단일 모델보다 용도별로 여러 모델을 섞어 쓴다.

• 프리미엄 reasoning 호출은 Claude Opus로, 저가·고속 호출은 Gemini Flash로 몰렸다.
• OpenAI는 GPT-5.4/5.5 출시 뒤 3월 대비 4월 지출 점유율이 3배로 늘었다.
• Google은 Gemini Flash 확산에 힘입어 지출 점유율이 **8% → 21%**로 상승했다.

워크로드별로도 비용과 사용량의 분리는 뚜렷했다. 개인 비서는 비용 **20%**에 토큰 40%, 코딩 에이전트는 비용 **22%**에 토큰 20%, 백오피스 에이전트는 비용 **6%**에 토큰 15%, 앱 생성은 비용 **7%**에 토큰 **11%**를 차지했다.

• B2C는 저비용 대량 호출로 volume을 만들고, B2B는 더 비싼 호출로 spend를 만든다.
• 토큰당 비용은 B2B가 B2C의 약 2배다.
• agentic workloads는 전체 토큰의 **59%**를 차지하며 6개월 만에 2배로 늘었다.