#kv-quantization와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
TogetherAI가 추론 효율을 높이는 새로운 KV 캐시 양자화 기술인 OSCAR를 오픈소스로 공개했다.