Vercel, 에이전트 워크로드 최적화 위한 통합 컴퓨팅 레이어 'Fluid' 공개

Vercel이 워크로드에 맞춰 머신을 조립하고 설정을 실시간으로 교체할 수 있는 단일 시스템 Fluid를 공개했다. Fluid는 Hive(하드웨어), Fluid images(환경), Vercel Drives(스토리지)로 구성되며, Functions, Sandboxes, Builds가 동일한 인프라 위에서 실행된다.

Fluid의 핵심 구성 요소

• Hive: 격리된 VM을 밀리초(ms) 단위로 프로비저닝하는 하드웨어 계층이다. 보통 워밍업된 상태로 즉시 실행 준비가 되며, 멀티테넌시 환경에서 각 머신을 격리한다.
• Fluid images: 사용자 이미지를 VHS(Vercel Hive Snapshot)라는 최적화된 부팅 포맷으로 변환한다. 이를 통해 부팅 대신 resume을 지원하여 커스텀 머신을 밀리초 단위로 준비한다.
• Vercel Drives: 스토리지와 컴퓨트를 분리하여 데이터 영속성을 보장한다. 하위 컴퓨트가 교체되어도 다음 세션에서 중단된 지점부터 정확히 재개할 수 있다.

워크로드별 최적화 및 성능

Fluid는 워크로드의 특성에 따라 자원을 할당한다. 빌드는 CPU와 메모리가 많은 강력한 머신에서 실행되는 compute-bound 워크로드이며, 함수는 요청 즉시 코드를 로드하는 IO-bound 워크로드다. 샌드박스는 유연성을 위해 다양한 구성과 사용자 데이터를 수용한다.

현재 Fluid는 하루 1,500만 건의 빌드, 주당 2,500만 개의 샌드박스, 월 1조 건의 요청을 처리하고 있다. 특히 AI 에이전트 워크로드의 경우 표준 VM 프로비저닝 속도가 느려 클라우드조차 부적합했으나, Fluid는 격리된 VM을 즉시 제공하여 이 문제를 해결한다. 또한 Active CPU 과금 방식을 적용해 대기 시간이 아닌 실제 코드 실행 시간에만 비용을 지불한다.