더 안정적인 Repl 연결을 위하여

Replit은 세션 성공률(Session Success Rate)을 핵심 **SLO(Service Level Objective)**로 관리하며, 클라이언트의 요청이 대상 Repl에 안정적으로 연결되는 것을 최우선으로 한다.

기존에는 컨테이너 관리자인 Conman이 컨테이너 실행과 역방향 WebSocket 프록시 역할을 동시에 수행했다. 이로 인해 Conman 업데이트 시 프록시와 컨테이너가 동시에 종료되어 사용자 연결이 끊기는 문제가 발생했으며, 리소스 공유로 인해 컨테이너 수에 기반한 Autoscaling 구현도 까다로웠다.

이를 해결하기 위해 Replit은 클라이언트와 Conman 사이에 위치하는 새로운 역방향 WebSocket 프록시 서비스인 Eval을 도입했다.

새로운 아키텍처를 통해 Conman은 컨테이너 관리에만 집중할 수 있게 되었으며, Eval이 프록시 역할을 전담하게 됨에 따라 다음과 같은 이점을 얻었다:

• 연결 안정성 향상: Conman 업데이트 중에도 프록시 연결을 유지할 수 있음
• 확장성 개선: 컨테이너 수에 기반한 독립적인 Autoscaling 가능
• 진단 용이성: 프록시와 컨테이너 관리 로직이 분리되어 장애 원인 파악이 쉬워짐