Ollama, llama.cpp 직접 지원
Ollama Pre-Release Switches From Building on GGML to Using llama.cpp Directly
·2026.05.14 23:33
Ollama가 GGML 기반에서 llama.cpp 직접 지원으로 전환했다.
Ollama v0.30.0-rc15가 GGML 기반 빌드에서 llama.cpp 직접 지원으로 전환했다.
이 변경으로 GGUF 파일 포맷 호환이 가능해졌고, Apple Silicon에서는 MLX로 모델 추론을 가속한다.
프리릴리스 피드백 항목은 다음과 같다.
- 성능 개선 또는 저하
- 이전에는 없던 오류·크래시
- 메모리 사용량 변화
알려진 미지원 모델은 다음과 같다.
laguna-xs.2llama3.2-vision
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.