ExTernD: 삼항 양자화의 정확도 한계 극복
ExTernD: Expanded-Rank Ternary Decomposition Ternary LLM PTQ with Accuracy Approaching Any Quantization Level [P]
·2026.07.16 22:31
행렬 분해를 통해 정확도 손실을 최소화하며 효율적인 삼항 양자화(Ternary Quantization)를 구현하는 새로운 PTQ 방법론을 제안함.
기존의 고정된 행렬 크기를 가진 삼항 양자화(Ternary PTQ) 방식은 정확도 유지에 한계가 있다는 점에 착안하여, 행렬을 두 개의 삼항 행렬과 내부 대각 스케일링 행렬로 분해하는 ExTernD 방식을 제안합니다.
이 방식은 내부 랭크(Inner Rank)를 임의로 확장할 수 있어 양자화 수준에 관계없이 높은 정확도를 유지할 수 있습니다. 또한, 기존 양자화 방식과 비교했을 때 VRAM 사용량 증가가 매우 적으면서도 삼항 연산의 이점을 극대화할 수 있다는 장점이 있습니다.
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.