AI 에이전트 샌드박싱을 100배 더 빠르게

Cloudflare는 AI가 생성한 코드를 안전하게 실행할 sandbox가 필요하다고 보고, 컨테이너 대신 Dynamic Worker Loader를 제안한다. 이 기능은 Workers의 핵심 실행 방식인 isolate 위에서 동적 Worker를 띄워, 더 가볍고 빠른 실행 환경을 제공한다.

• open beta로 공개됐고, paid Workers users가 사용할 수 있다.
• 기존 컨테이너는 시작에 수백 ms, 메모리에 수백 MB가 들어가지만, isolate는 몇 ms와 몇 MB 수준이라 약 100배 빠르고 10배~100배 더 메모리 효율적이다.
• 요청마다 새 sandbox를 띄워도 되는 수준이라, 대규모 동시성과 제로에 가까운 지연을 노릴 수 있다.

핵심은 에이전트가 코드를 직접 실행하되, 앱과 세계로부터 분리된 상태에서 필요한 권한만 받게 만드는 것이다. 이를 위해 Worker Loader는 런타임에 코드를 주입하고, globalOutbound로 외부 HTTP 요청을 차단하거나 가로채며, 필요한 경우 credential injection도 처리한다.

API 설계에서는 TypeScript RPC 인터페이스가 OpenAPI나 평문 HTTP보다 더 낫다고 강조한다. 타입 정의만으로 기능과 제약을 짧고 정확하게 전달할 수 있고, Cap'n Web RPC 브리지 덕분에 에이전트는 로컬 라이브러리를 쓰는 것처럼 getHistory(), subscribe(), post() 같은 메서드를 호출한다.

보안 측면에서도 Cloudflare는 거의 10년간 쌓은 isolate 운영 경험을 바탕으로 방어를 제공한다. V8 패치를 빠르게 배포하고, 추가 sandbox 계층과 테넌트 분리, MPK 활용, Spectre 대응, 악성 코드 탐지까지 함께 적용해 동적 코드 실행의 위험을 줄인다.

결론적으로, 컨테이너보다 가볍고, HTTP보다 표현력이 높고, 에이전트 친화적인 TypeScript RPC를 결합해 AI 에이전트용 실행 환경의 기준을 다시 정의한다.