AI Briefing#caching
#caching와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#caching와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Vercel이 Data Cache를 Runtime Cache로 통합해 지연 시간을 5분의 1로 줄였다
Rust 재작성과 CDC 기반 캐싱으로 전 세계 읽기 지연을 12배 줄였다.
Cloudflare의 Origin Range Requests가 R2 p99 TTFB를 절반으로 줄였다
OpenAI Habitat가 10억 명 사용자에게 10ms 레이턴시를 제공하며 12배 성능을 개선했다
Cloudflare가 DNS 캐시 저장 방식을 최적화해 100TB의 메모리를 절감하고 성능을 향상시켰다.
Vercel이 Turborepo 캐시 히트를 고려해 Elastic 빌드 머신의 잘못된 다운그레이드를 방지하도록 개선했다.
아임웹이 Valkey 9.1 업그레이드 후 전체 CPU 사용량을 86.6% 줄였다.
Manifest가 7,000개 클라우드 사용자 경험을 바탕으로 LLM router를 폐기했다.
Cloudflare가 오리진 응답 후 캐시 저장 전 단계에서 헤더를 수정할 수 있는 Cache Response Rules를 출시했다.
AI 에이전트 시스템의 모델 라우팅은 모델 선택 문제가 아니라 캐싱, 인프라, 규정을 포함한 시스템 최적화 문제다.
Vercel ISR Observability에 write utilization 지표가 추가되어 비효율적인 재검증을 파악할 수 있게 됐다.
Cloudflare가 Worker 엔드포인트 직전에 위치하는 지역 계층형 캐시인 Workers Cache를 출시했다.
AI 에이전트의 GitHub API 호출 속도를 높이고 레이트 리밋을 방지하는 캐싱 프록시 ghx가 출시되었습니다.
GitBook은 Vercel의 태그 기반 캐시 무효화 기술을 통해 3만 개 사이트에 300ms 미만의 빠른 업데이트를 제공한다.
Netflix는 Druid 롤링 대시보드의 중복 쿼리를 구간 인지 캐싱으로 줄였다.
NotiHub는 Kafka·Redis·HPA로 대규모 알림을 안정적으로 중앙화했다.