AI Briefing#gguf
#gguf와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#gguf와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Unsloth가 Qwen3.8-27B용 Dynamic v3.0 양자화 모델을 출시하며 정확도 향상을 입증했다.
Liquid AI가 양자화 인식 증류(QAD)로 품질 저하를 최소화한 LFM2.5 Q4_0 모델을 공개했다.
DFlash 개발자가 Qwen 3.8 27B와 Muse Glimmer를 지원하는 DFlash 2 버전을 공개하고 llama.cpp PR을 제출했다.
llama.cpp가 MTP 비활성화 상태에서도 특정 아키텍처의 MTP 텐서를 기본 로드하도록 변경되어 VRAM 사용량이 증가합니다.
audio.cpp 0.4가 Higgs Audio v3 TTS와 Fish Audio S2 Pro 등을 추가하며 35개 모델 패밀리를 지원하고 Q8 GGUF로 속도·VRAM을 개선했다.
ik_llama.cpp에 openPangu-2.0-Flash 모델 지원 및 GGUF 포맷 업데이트가 이루어졌다.
Sberbank가 432B 파라미터 규모의 GigaChat 3.5 모델과 GGUF 양자화 버전을 출시했다.
llama.cpp 프로젝트에 DeepSeek V4 모델 지원을 위한 Pull Request가 병합되었습니다.
Unsloth가 Gemma 4의 31B, 26B-A4B, 12B 모델용 MTP GGUF 가중치를 공개했다.
llama.cpp에 Stepfun AI의 Step-3.7-Flash 모델 지원을 위한 Pull Request가 제출되었습니다.
NVIDIA의 Parakeet STT 모델을 Python 없이 C++/ggml 환경에서 실행할 수 있도록 포팅하여 성능과 효율성을 대폭 개선했다.
MTP 헤드를 통합하여 별도의 드래프트 모델 없이 self-speculative decoding이 가능한 Qwen3.6 GGUF 모델이 출시되었다.
GGUF 파일 형식의 구성 요소인 채팅 템플릿, 특수 토큰, 샘플러 설정과 향후 개선 과제를 분석한다.
GGUF 파일 포맷의 구조와 채팅 템플릿, 특수 토큰 등 포함된 메타데이터의 역할을 상세히 설명한다.
Unsloth가 Multi-Token Prediction(MTP) 기술이 적용된 Qwen 모델의 GGUF 버전을 공개했다.