Dynamic Quantiser 공개, VRAM 제약 환경서 표준 양자화 대비 정확도 향상

llama.cpp 호환 GGUF 파일을 대상으로 동적 양자화를 수행하는 오픈소스 도구 Dynamic Quantiser가 공개됐다. 이 도구는 데이터셋 없이 GGUF 파일과 llama.cpp만 있으면 되며, 전체 모델의 **코사인 편차(cosine deviation)**를 최소화하는 방식으로 작동한다. 코사인 편차는 KLD(Kullback-Leibler divergence)와 0.99의 피어슨 상관을 보여 양자화 품질의 좋은 지표가 된다.

주요 기능 및 작동 원리

• 정밀한 동적 양자화: 고정된 파일 크기 내에서 개별 텐서(tensor) 단위로 최적의 양자화 수준을 선택하여 전체 모델의 코사인 편차를 최소화한다.
• 커스텀 양자화 지원: 레이어/그룹 단위로 근사적인 해를 찾아 사용자가 직접 양자화 수준을 조절할 수 있게 한다.
• 디스크 용량 최소화: 고정된 코사인 편차 내에서 디스크 용량을 최소화하는 모드도 제공한다.
• 최적화 알고리즘: Dinkelbach 알고리즘과 분할 가능한 라그랑지안(Lagrangian) 내부 루프, 다중 시작점 지역 탐색을 통해 목표 함수를 최적화한다.

성능 및 한계

• 벤치마크: Qwen 3.8 27b 모델 테스트 결과, WikiText 기준으로는 Unsloth 동적 양자화가 더 우수한 성능을 보였으나, 혼합 데이터셋(Bartowski's calibration v5)에서는 일부 양자화 수준에서 Dynamic Quantiser가 Unsloth 동적 3.0을 능가하는 경우도 있었다.
• 한계점: SOTA 동적 양자화 도구인 Unsloth 동적 3.0보다는 전반적인 정확도가 낮으며, IQn_XS 스타일 양자화는 추론 속도 저하를 이유로 현재 제외되었다. 초기 테이블 빌드는 Ryzen 5 3600 기준 약 25분 소요되며, 이는 일회성 작업이다.
• 개발 배경: 아이디어는 인간이 제공했으나 코드는 AI로 작성되었으며, Windows 환경에서 주로 테스트되었다.