Hugging Face에 Baseten 연동

Hugging Face가 Baseten을 Inference Provider로 추가해 Hub의 모델 페이지와 Python·JavaScript SDK에서 Baseten 기반 서버리스 추론을 지원한다.

초기에는 대화형·텍스트 생성 작업을 제공하며, Kimi K3·DeepSeek V4 Flash·GLM-5.2 등 오픈 웨이트 LLM을 Baseten으로 호출할 수 있다. 추가 작업 유형은 추후 지원될 예정이다.

사용자는 두 가지 방식으로 요청할 수 있다.

• 자체 Baseten API 키를 등록해 provider로 직접 호출
• Hugging Face가 요청을 라우팅하고 비용을 Hugging Face 계정에 청구

Hugging Face SDK에서는 huggingface_hub 1.26.1 이상과 JavaScript용 @huggingface/inference를 지원하며, OpenAI 호환 API를 통해 모델명:baseten 형식으로 호출할 수 있다. Pi, OpenCode, Hermes Agents, OpenClaw 등 주요 Agent Harness와의 연동도 제공된다.