#ttft

#ttft와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.

vLLM이 NIXL 기반 푸시 KV 전송으로 TTFT를 최대 3배 단축했다.

·2·2026.10.14 09시

NVIDIA Dynamo가 비전 인코더를 분리해 멀티모달 LLM의 TTFT를 최대 93% 줄이는 서빙 아키텍처를 공개했다.

·1·2026.09.11 07시

Kimi Linear로 cross-datacenter Prefill/Decode 분리를 현실화해 비용을 낮췄다.

·2026.04.19 01시

세션·하네스·샌드박스를 분리해 Managed Agents의 확장성과 보안을 높였다.

·2·2026.04.09 09시