Hugging Face LLM 추론 OpenRouter 경유

Hugging Face switched its language model inference routing to OpenRouter

·2026.11.17 12:16

핵심 내용

Hugging Face가 LLM 추론을 OpenRouter로 전환해 가격과 속도를 최적화했다

자세히 보기

  • Hugging Face는 2026년 11월 16일 언어 모델 추론 라우팅을 자체 라우터 대신 OpenRouter로 전환함
  • OpenRouter는 실시간 가격, 속도, 신뢰성을 기준으로 제공자를 선택하며, 첫 번째 제공자가 실패하면 다른 제공자로 자동 재시도함
  • 언어 모델 요청에 대한 사용자 지정 제공자 API 키가 더 이상 작동하지 않으며, 이제 Hugging Face 계정에 마크업 없이 직접 청구됨
  • 2026년 9월 말 기준 OpenRouter의 토큰 중 오픈 웨이트 모델이 71.7%를 차지하며, 이는 2025년 10월의 26.8%에서 상승한 수치로 폐쇄형 모델보다 약 4배 저렴함
  • 이미지, 비디오, 오디오 생성은 여전히 Hugging Face의 기존 Inference Providers 경로를 사용하며 OpenRouter를 거치지 않음
  • 모델 ID에 :fastest 또는 :cheapest와 같은 접미사를 사용하여 특정 제공자나 정책을 고정할 수 있음

이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.

AI 처리 방식을 확인하거나, 요약 오류와 출처 표기 문제, 삭제 요청을 문의 · 건의로 알려주세요.