HF, Featherless AI 추론 지원

Hugging Face가 서버리스 추론 서비스인 Featherless AI를 새로운 추론 제공업체로 지원한다.

Featherless AI가 Hugging Face Hub의 새로운 Inference Provider로 합류했다.

Featherless AI는 DeepSeek, Meta, Google, Qwen 등 최신 오픈 소스 모델을 포함한 방대한 모델 카탈로그를 서버리스(Serverless) 방식으로 제공한다. 사용자는 인프라 관리 부담 없이 다양한 모델을 즉시 활용할 수 있다.

주요 특징 및 사용법:

SDK 통합: Python(huggingface_hub) 및 JavaScript(@huggingface/inference) SDK를 통해 기존 코드에 쉽게 통합할 수 있다.
유연한 결제 방식: 사용자의 API 키를 사용하여 제공업체에 직접 결제하는 Custom Key 방식과, Hugging Face 계정을 통해 결제하는 Routed by HF 방식을 모두 지원한다.
UI 연동: Hugging Face 모델 페이지 내 위젯에서 제공업체를 확인하고, 사용자 설정에 따라 선호하는 제공업체를 우선순위로 배치할 수 있다.