#transformer-inference와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
KV cache 없이 residual stream만 저장해도 동일 출력을 낼 수 있다고 주장한다.