Unsloth 압도

Mean KLD 기준으로 거의 모든 Unsloth GGUF가 Pareto frontier에 올랐고, 22개 크기 중 21개에서 최상위 성능을 기록했다.

핵심 지표는 양자화 모델이 BF16 출력 분포를 얼마나 잘 보존하는지 보여주며, 이 결과는 99.9% KLD 같은 다른 지표에서도 비슷한 흐름을 보였다.

추가로 Q6_K 퀀트는 더 동적인 방식으로 업데이트됐고, 기존 버전을 다시 받을 필요는 없다. 같은 방식의 개선은 Qwen3.6에도 적용됐다.

새로운 UD-IQ4_NL_XL 퀀트도 공개됐다.

• 14.6GB로 16GB VRAM에 적합
• UD-IQ4_XS(13.4GB) 와 UD-Q4_K_S(16.4GB) 사이 포지션

MLX 퀀트도 더 동적으로 조정됐다. 공개된 비교표에서는 새 버전이 기존 버전보다 소폭 개선됐다.

• Perplexity: 4.772 → 4.766
• Mean KLD: 0.0177 → 0.0163
• 99.9% KLD: 0.8901 → 0.8398
• Disk Size: 21.4GB → 21.6GB

상세 그래프와 GGUF 파일은 Gemma 4 및 Qwen3.6 벤치마크 문서와 Hugging Face 저장소에서 제공된다.