Cohere, llama.cpp로 North Micro Vision Instruct 로컬 추론 지원

llama.cpp support for Cohere models

·2026.10.20 00:43

핵심 내용

Cohere가 llama.cpp 지원으로 최신 모델 호환성을 완료하고 Transcribe의 Unsloth 파인튜닝을 가능하게 했다

Cohere가 North Micro Vision Instruct의 비전 인코더에 대한 llama.cpp 지원을 병합하여 최신 모델 아키텍처 전체의 호환성을 완료함
North Micro Vision Instruct의 LLM 아키텍처는 이미 llama.cpp 지원을 갖춘 North Mini Code와 Command A+와 일치함
North Micro Vision은 여러 새로운 Cohere 릴리스의 기반 역할을 함
Cohere Transcribe가 이제 Unsloth와 Unsloth Studio에서 파인튜닝을 위해 사용 가능함

이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.

AI 처리 방식을 확인하거나, 요약 오류와 출처 표기 문제, 삭제 요청을 문의 · 건의로 알려주세요.