AI Gateway에 추가된 Gemma 4

Google의 Gemma 4 **26B (MoE)**와 **31B (Dense)**가 이제 Vercel AI Gateway에서 제공된다. 두 모델은 Gemini 3와 같은 아키텍처를 기반으로 하며, function-calling, agentic workflows, structured JSON output, system instructions를 지원한다. 또한 256K context, 140+ languages, native vision을 제공한다.

두 모델은 용도가 다르다.

• 26B (MoE): 추론 시 전체 26B 중 3.8B 파라미터만 활성화해 지연 시간을 줄이고 tokens-per-second를 높이는 데 최적화됐다.
• 31B (Dense): 모든 파라미터를 활성화해 출력 품질을 높이는 데 초점을 맞췄고, fine-tuning의 기반 모델로 더 적합하다.

AI SDK에서는 모델명을 google/gemma-4-31b-it 또는 google/gemma-4-26b-a4b-it로 지정해 사용할 수 있다. AI Gateway는 모델 호출을 단일 API로 묶고, 사용량·비용 추적, retry, failover, performance optimization, custom reporting, observability, BYOK, intelligent provider routing까지 제공한다.