Vercel, Shard 기반 메타데이터 조회로 P99 지연 91% 감소

Vercel은 초당 8000만 개 이상의 라우팅 지시문을 처리하는 CDN 환경에서 기존 경로별 개별 메타데이터 조회 방식의 확장성 한계를 해결하기 위해 Shard 기반 그룹 Fetching 아키텍처를 도입했다. 이 변경으로 대규모 배포 시 반복되던 캐시 미스를 줄이고, 프로덕션 환경에서 P99 메타데이터 조회 지연을 91% 감소시켰다.

Shard 기반 조회 아키텍처

기존 방식은 각 경로마다 독립적인 캐시 키를 생성하여 빈번한 배포 시 캐시 미스가 발생했다. 새로운 방식은 다수 경로의 메타데이터를 Shard 파일로 그룹화하여 한 번의 Fetch로 해당 Shard 내 모든 경로를 캐시 워밍한다. Shard 내에는 개별 경로 위치를 파악할 수 있는 인라인 인덱스가 포함되며, 200 KB 크기로 최적화되어 LRU 캐시 히트율을 유지하면서도 전송 비용을 제어한다.

성능 개선 및 빌드 최적화

프로덕션 측정 결과 메타데이터 조회 지연이 크게 개선되었다.

• P99 지연: 215.8 ms에서 19.1 ms로 91% 감소
• 평균 지연: 8.59 ms에서 1.81 ms로 79% 감소
• 표준 편차: 44.9 ms에서 19.0 ms로 58% 감소

또한 불필요한 경로별 메타데이터 업로드를 생략하고 라우팅 그룹 정보를 매니페스트에 통합하여 빌드 파이프라인을 최적화했다. 이를 통해 전체 배포 단계가 약 10% 빨라졌으며, 메타데이터가 많은 배포의 경우 약 25% 가속화될 것으로 추정된다.

호환성 및 적용

새로운 포맷은 기존 Build Output API 계약을 변경하지 않아 Framework 개발자에게 투명하다. 2026년 7월 17일 이후 빌드된 배포부터 자동으로 적용되며, 이전 배포는 재배포를 통해 개선된 조회 속도를 활용할 수 있다. 또한 레거시 인코딩(RFC 2047)의 이모지 처리 버그를 순수 UTF-8 저장 방식으로 해결하여 신뢰성을 확보했다.