#kv-cache-quantization와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
PN-Mix가 2.26비트 정밀도로 고비트 베이스라인과 동등한 정확도를 달성했다
Gemma는 KV 캐시 양자화에 민감했고 Qwen은 상대적으로 견딜 만했다.