AI BriefingExTernD: 삼항 양자화의 정확도 한계 극복
ExTernD: Expanded-Rank Ternary Decomposition Ternary LLM PTQ with Accuracy Approaching Any Quantization Level [P]
·2026.07.16 22:31
핵심 내용
행렬 분해를 통해 정확도 손실을 최소화하며 효율적인 삼항 양자화(Ternary Quantization)를 구현하는 새로운 PTQ 방법론을 제안함.
자세히 보기
기존의 고정된 행렬 크기를 가진 삼항 양자화(Ternary PTQ) 방식은 정확도 유지에 한계가 있다는 점에 착안하여, 행렬을 두 개의 삼항 행렬과 내부 대각 스케일링 행렬로 분해하는 ExTernD 방식을 제안합니다.
이 방식은 내부 랭크(Inner Rank)를 임의로 확장할 수 있어 양자화 수준에 관계없이 높은 정확도를 유지할 수 있습니다. 또한, 기존 양자화 방식과 비교했을 때 VRAM 사용량 증가가 매우 적으면서도 삼항 연산의 이점을 극대화할 수 있다는 장점이 있습니다.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
