#kvcache와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Hybrid-attention 모델의 작은 KVCache를 활용해 prefill을 데이터센터 밖으로 뺀다.
Kimi Linear로 cross-datacenter Prefill/Decode 분리를 현실화해 비용을 낮췄다.