Gemma 4 KV 캐시 grafting 기술 공개

Byte exact KV cache grafting on frozen Gemma 4

·2026.07.19 06:24

핵심 내용

검증된 지식을 KV 상태로 저장하여 재계산 없이 복원하는 새로운 KV 캐시 기법을 발표했다.

검증된 지식을 KV state로 저장한 뒤, 새로운 계산 과정 없이도 byte-identical하게 복원할 수 있는 새로운 방법론을 공개했다.

Gemma 4 12B 모델을 대상으로 테스트한 결과, 해당 기술을 적용했을 때 AIME 2025 벤치마크의 라우팅 시스템 성능이 기존 76.7%에서 90.0%로 향상되는 결과를 보였다.

해당 연구 결과는 오는 7월 19일 AGI Summit에서 발표될 예정이다.

이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.

AI 처리 방식을 확인하거나, 요약 오류와 출처 표기 문제, 삭제 요청을 문의 · 건의로 알려주세요.