Cohere, Hugging Face에서 직접 추론 가능

Cohere가 Hugging Face의 Inference Provider로 공식 지원된다. 이는 모델 제작자가 자신의 모델을 허브에서 직접 공유하고 서비스하는 첫 번째 사례다.

사용자는 Hugging Face 웹 UI나 클라이언트 SDK를 통해 Cohere의 모델들을 서버리스 추론(Serverless Inference) 방식으로 즉시 실행할 수 있다.

주요 지원 모델:

• Command R 시리즈: 기업용 RAG, 에이전트 도구 사용, 높은 보안성에 최적화되어 있다. 특히 c4ai-command-a-03-2025는 256k 컨텍스트 길이를 지원한다.
• Aya Expanse 시리즈: 한국어를 포함한 20개 이상의 언어를 지원하는 다국어 특화 모델이다.
• Aya Vision 시리즈: OCR, 이미지 캡셔닝, 시각적 추론 등을 수행하는 멀티모달 모델이다.