Ling 3.0 Tiny, AI Gateway에서 사용 가능

ANT Group의 Ling 3.0 Tiny가 Vercel AI Gateway에 추가됐다. 8월 13일까지 무료로 사용할 수 있으며, 기존 무료 모델이던 Ling 3.0 Flash를 대체한다.

Ling 3.0 Tiny는 총 79억 개 파라미터와 토큰당 약 13억 개 활성 파라미터를 사용하는 MoE 모델이다. 256K 토큰 컨텍스트 윈도우, 최대 32K 출력 토큰을 지원하며 반응형 에이전트, 지시 이행, 멀티턴 대화에 최적화됐다. 네이티브 function calling과 prompt caching도 제공한다.

AI SDK에서는 다음 모델명을 지정해 사용할 수 있다.

• 무료 제공 기간: inclusionai/ling-3.0-tiny-free
• 8월 13일 이후 모델명: inclusionai/ling-3.0-tiny

AI Gateway는 여러 모델을 통합 호출하고 사용량·비용을 추적하며, 재시도·장애 조치·성능 최적화를 설정할 수 있는 API를 제공한다. 사용자 지정 리포팅, Zero Data Retention, API 키 예산, 라우팅 규칙을 지원하며, 추론 비용에 플랫폼 수수료를 추가하지 않는다.