Hugging Face, OpenRouter 기반 자동 모델 라우팅 도입
Hugging Face and OpenRouter join forces to make open-weight models easy to run
·2026.11.16 09:00
핵심 내용
Hugging Face가 OpenRouter로 라우팅을 전환해 자동 프로바이더 선택을 구현했다
자세히 보기
- 언어 모델용 Hugging Face Inference Providers가 자체 라우터 대신 OpenRouter를 통해 요청을 라우팅함
- OpenRouter가 실시간 가격, 속도, 신뢰성을 기준으로 요청마다 최적의 프로바이더를 선택하며, 첫 번째 시도가 실패하면 다른 프로바이더로 재시도함
- 2026년 9월 기준 OpenRouter에서 제공된 토큰 중 오픈웨이트 모델 비중이 71.7%로, 2025년 10월의 26.8%에서 증가함
- 오픈웨이트 모델은 평균적으로 약 4배 저렴하며, 입력 토큰 100만 개당 0.28달러, 출력 토큰 100만 개당 1.62달러로, 폐쇄형 모델의 1.27달러와 6.36달러 대비 저렴함
- 새로운 라우팅 시스템으로 용량 오류가 46% 감소하고 첫 토큰 도달 시간이 16.9% 개선됨
- 언어 모델의 커스텀 프로바이더 API 키 지원이 중단되며, 요청 비용은 Hugging Face 계정에 청구됨
- 이미지, 비디오, 오디오 생성은 OpenRouter 라우팅 없이 Hugging Face를 통해 직접 처리됨
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.