Python 패키지 캐시 도입

Replit의 **Universal Package Manager (UPM)**는 라이브러리 설치를 자동화하지만, 매번 의존성을 다운로드하고 설치하는 과정에서 시간이 소요되는 문제가 있었다.

이를 해결하기 위해 Python 패키지 캐시를 도입했다. 인기 있는 Python 패키지들을 pip 캐시(/home/runner/.cache/pip)에 미리 채워두어 다운로드 단계를 최소화하고, pre-built wheels를 사용하여 컴파일 과정도 줄였다.

기술적으로는 **Overlay Filesystem (OverlayFS)**를 활용한다. 각 repl은 읽기 전용(read-only)인 캐시 스냅샷을 /mnt/cacache에 마운트한 뒤, 이를 사용자 쓰기 가능 디렉토리와 결합하여 Copy-on-Write 방식으로 동작하게 한다. 이를 통해 각 repl의 독립성을 보장하면서도 파일 복사 없이 투명하게 패키지를 관리할 수 있다.

이 시스템은 Content-Addressable Storage (CAS) 원리를 기반으로 한다. 패키지의 해시값을 사용하여 파일의 무결성을 검증하고, 이미 캐시에 있는 경우 다운로드 대신 로컬 복사본을 사용한다.

이번 도입 결과, Always On repl의 평균 패키지 설치 시간이 약 40% 감소했다. Replit은 향후 Java(Maven)와 JavaScript(npm)에도 동일한 기술을 적용할 계획이다.