Hugging Face, Public AI 추론 프로바이더 지원

Hugging Face Hub의 서버리스 추론 생태계에 Public AI가 새롭게 합류했다. 이를 통해 Swiss AI Initiative, AI Singapore 등 주요 기관의 **공공 및 주권 모델(Sovereign models)**을 허브에서 즉시 이용할 수 있다.

Public AI Inference Utility는 비영리 오픈소스 프로젝트로, vLLM 기반의 분산 인프라를 활용해 OpenAI 호환 API를 제공한다. 전 세계적으로 기부된 GPU 자원을 활용하여 안정적인 추론 환경을 구축하는 것이 특징이다.

사용자는 다음과 같은 방식으로 이용 가능하다:

• 웹 UI: 사용자 설정에서 직접 API 키를 등록하거나, Hugging Face 계정을 통해 라우팅 및 결제를 처리할 수 있다.
• SDK: Python(huggingface_hub) 및 JavaScript(@huggingface/inference) 클라이언트 라이브러리를 통해 기존 워크플로우에 쉽게 통합할 수 있다.