AI BriefingHugging Face에 Baseten 연동
Baseten on Hugging Face Inference Providers 🔥
·2026.08.06 09:00
핵심 내용
Hugging Face가 Baseten을 Inference Provider로 추가해 서버리스 모델 추론을 지원한다.
자세히 보기
Hugging Face가 Baseten을 Inference Provider로 추가해 Hub의 모델 페이지와 Python·JavaScript SDK에서 Baseten 기반 서버리스 추론을 지원한다.
초기에는 대화형·텍스트 생성 작업을 제공하며, Kimi K3·DeepSeek V4 Flash·GLM-5.2 등 오픈 웨이트 LLM을 Baseten으로 호출할 수 있다. 추가 작업 유형은 추후 지원될 예정이다.
사용자는 두 가지 방식으로 요청할 수 있다.
- 자체 Baseten API 키를 등록해 provider로 직접 호출
- Hugging Face가 요청을 라우팅하고 비용을 Hugging Face 계정에 청구
Hugging Face SDK에서는 huggingface_hub 1.26.1 이상과 JavaScript용 @huggingface/inference를 지원하며, OpenAI 호환 API를 통해 모델명:baseten 형식으로 호출할 수 있다. Pi, OpenCode, Hermes Agents, OpenClaw 등 주요 Agent Harness와의 연동도 제공된다.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
