Thinking Machines의 Inkling, AI Gateway에서 사용 가능

Thinking Machines의 Inkling 모델이 AI Gateway에 새롭게 추가되었습니다. Inkling은 특정 도메인에 최적화된 모델이 아닌, 에이전트(Agentic), 추론, 코딩, 지시 이행, 사실 관계 확인, 비전 및 오디오 작업을 아우르는 **범용 모델(Generalist model)**입니다. 특히 사용자가 사고의 깊이를 조절할 수 있는 제어 가능한 사고 노력(Controllable thinking effort) 기능을 지원합니다.

사용자는 AI SDK에서 모델명을 thinkingmachines/inkling으로 설정하여 간편하게 호출할 수 있습니다. AI Gateway는 모델 호출을 위한 통합 API를 제공하며 다음과 같은 기능을 지원합니다.

• 사용량 및 비용 추적
• 재시도(Retry), 장애 조치(Failover) 및 성능 최적화 설정
• 커스텀 리포팅 및 Zero Data Retention 지원
• API 키별 예산 설정 및 라우팅 규칙 적용

AI Gateway는 제공업체의 가격을 그대로 반영하며, BYOK(Bring Your Own Key) 요청을 포함하여 추론에 대한 별도의 플랫폼 수수료를 부과하지 않습니다.