Hugging Face LLM 추론 OpenRouter 경유
Hugging Face switched its language model inference routing to OpenRouter
·2026.11.17 12:16
핵심 내용
Hugging Face가 LLM 추론을 OpenRouter로 전환해 가격과 속도를 최적화했다
자세히 보기
- Hugging Face는 2026년 11월 16일 언어 모델 추론 라우팅을 자체 라우터 대신 OpenRouter로 전환함
- OpenRouter는 실시간 가격, 속도, 신뢰성을 기준으로 제공자를 선택하며, 첫 번째 제공자가 실패하면 다른 제공자로 자동 재시도함
- 언어 모델 요청에 대한 사용자 지정 제공자 API 키가 더 이상 작동하지 않으며, 이제 Hugging Face 계정에 마크업 없이 직접 청구됨
- 2026년 9월 말 기준 OpenRouter의 토큰 중 오픈 웨이트 모델이 71.7%를 차지하며, 이는 2025년 10월의 26.8%에서 상승한 수치로 폐쇄형 모델보다 약 4배 저렴함
- 이미지, 비디오, 오디오 생성은 여전히 Hugging Face의 기존 Inference Providers 경로를 사용하며 OpenRouter를 거치지 않음
- 모델 ID에 :fastest 또는 :cheapest와 같은 접미사를 사용하여 특정 제공자나 정책을 고정할 수 있음
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.