Lazy Image Streaming을 활용한 배포 속도 개선

Replit Deployments는 사용자의 코드를 컨테이너 이미지로 변환하여 Google Cloud VM 또는 Cloud Run에 빠르게 배포하는 서비스를 제공한다.

하지만 대규모 컨테이너 이미지를 사용할 경우, 이미지를 풀(pull)하고 압축을 해제하는 과정에서 수 분의 시간이 소요되는 문제가 발생한다. 이는 네트워크 대역폭 제한과 CPU 집약적인 압축 해제 과정 때문에 발생하는 병목 현상이다.

이미지 크기를 줄이는 것이 가장 이상적인 해결책이지만, 모든 사용자의 Dockerfile을 최적화하도록 강제하는 것은 어렵다. 이에 Replit은 이미지 크기를 줄이는 대신, Lazy Image Streaming을 통해 이미지 풀링 및 부팅 속도를 높이는 접근 방식을 채택했다.

Lazy Image Streaming은 컨테이너가 실행될 때 이미지의 모든 파일을 즉시 다운로드하는 대신, 필요한 시점에 필요한 파일만 스트리밍하여 배포 시간을 획기적으로 단축하는 기술이다.