Cloudflare, AI 에이전트용 컨테이너 재설계… 시작 속도 6배 향상

Cloudflare가 AI 에이전트 워크로드 최적화를 위해 Cloudflare Containers를 재설계하고, 배포 시점 설정 대신 애플리케이션 코드에서 제어하는 새로운 durable_object 스케줄링 정책을 도입했다. 이를 통해 개발자는 런타임에 컨테이너 이미지와 인스턴스 유형을 선택할 수 있어, 각 환경 조합별로 별도 애플리케이션을 만들 필요가 없어졌다.

성능 개선

재설계로 컨테이너 시작 속도가 크게 빨라졌다. ComputeSDK를 활용한 독립 벤치마크 결과, 중간값 기준 상호작용 대기 시간(TTI)이 4.049초에서 648ms로 6.2배 단축됐다. 95퍼센타일 값은 5.839초에서 910ms로 6.4배, 99퍼센타일 값은 6.717초에서 1129ms로 5.9배 개선됐다. 내부 예비 테스트에서는 단일 계정으로 6개 지역에서 100,000개의 컨테이너를 5.387초 만에 생성하는 데 성공했다.

아키텍처 및 주요 기능

• 런타임 구성: 개발자는 코드에서 이미지와 인스턴스 유형 인자를 직접 전달할 수 있으며, this.ctx.container.images.<name>으로 접근 가능하다. 이는 Durable Object 로직 내에서 카나리 배포 같은 동적 롤아웃 전략을 지원한다.
• 빠른 시작: 시스템은 이미 Durable Object가 호스팅 중인 머신에서 스케줄링을 우선시하고, 준비된 VM과 네트워크 설정을 재사용하여 전체 VM 부팅을 피한다.
• 파일 시스템 스냅샷 (퍼블릭 베타): 불변 스냅샷을 통해 여러 컨테이너가 동일한 기본 환경에서 시작할 수 있어, 세션 지속성과 효율적인 평가 또는 강화 학습 워크플로우를 지원한다.
• 시스템 이미지: Dockerfile 빌드 없이 즉시 사용 가능한 cloudflare/debian-trixie 이미지(Debian Trixie Slim + Node.js 24.20.0 LTS)가 제공된다.

마이그레이션 및 가용성

새로운 durable_object 스케줄링 정책은 모든 사용자를 대상으로 퍼블릭 베타로 제공된다. 기존 Container 클래스와 Sandbox 클래스는 2026년 12월 31일까지 지원되지만 업데이트는 제공되지 않는다. 개발자는 ctx.container 네이티브 API로 마이그레이션할 것을 권장한다. 주요 마이그레이션 단계로는 extends Container를 extends DurableObject로 변경하고, 직접 호출을 위해 this.ctx.container를 사용하는 것이 포함된다. Sandbox SDK 1.0은 이제 Durable Objects 내에서 사용하는 유틸리티 세트가 되었으며, @cloudflare/computer는 Dynamic Workers와 Containers를 결합하여 동기화된 파일 시스템을 제공한다.