AI BriefingNace 퀀트, Qwen 모델에서 최대 2배 높은 KL 발산 성능 달성
Weight Space Programming for Quantization: Nace quants achieve up to 2x better KL divergence for Qwen 9B, 27B, 35B & Flash Next [GGUF]
·2026.11.14 04:23
핵심 내용
Nace 퀀트가 128K 컨텍스트에서 Unsloth와 EXL3보다 높은 정확도를 기록했다.
자세히 보기
- Nace가 LLM 에이전트가 텐서 정밀도를 제안하고 편집하여 KL 발산을 최소화하는 Weight-Space Programming(WSP) 방식을 활용해 Qwen 9B, 27B, 35B, Flash-Next의 GGUF 가중치를 공개함
- 동일 크기 이하 파일 중 가장 높은 top-1 정확도를 기록했으며, 9B Q3_K_XL은 4.7 GB에서 90.5%, 35B Q3_K_S는 15.3 GB에서 91.2%, 27B Q4_K_XL은 17.3 GB에서 97.7%, Flash-Next IQ4_XS는 93 GB에서 93.0% 달성함
- 128K 토큰 장문맥 환경에서 경쟁사 대비 낮은 KL 발산을 유지하는 것이 핵심 차별점이며, 표준 퀀트는 512 토큰 성능 대비 상당한 저하가 발생하는 것과 대조됨
- MMLU 벤치마크 결과 Q3-Q4 퀀트는 지식 중심 작업에서 고정밀도와 거의 구별할 수 없는 수준을 보였으며, 향상 폭은 대부분 노이즈 범위 내에 있었음
- Astra, Fable, Carbon으로 구성된 에이전틱 스웜을 활용한 힐클라이밍 최적화 방식은 무차별 대입법 및 Unsloth, EXL3 등 기존 SOTA 퀀트를 특정 정밀도 클래스에서 능가함
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
