AI Briefingik_llama.cpp 신규 기능 업데이트
Dflash 2 speculative decoding by SamuelOliveirads · Pull Request #2345 · ikawrakow/ik_llama.cpp
·2026.08.27 16:23
핵심 내용
ik_llama.cpp가 DSpark 모델 지원과 Vulkan 양자화 기능을 추가했다.
자세히 보기
ik_llama.cpp 프로젝트에 최신 업데이트가 적용되었다.
주요 변경 사항
- DSpark 모델 지원: Ling-3.0(bailingmoe3) 런타임 지원 및 Muse-Glimmer 지원 추가.
- Vulkan 최적화: IQ4_KS 및 IQ4_KT 양자화 포맷 지원 추가.
- CUDA 수정: HIP 빌드 오류 수정 및 RDNA3에서 IQ4_KS, IQ4_KT 검증 완료.
이번 업데이트로 다양한 하드웨어 환경에서의 양자화 모델 실행 안정성이 개선되었다.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
