Project Think: Cloudflare에서 차세대 AI 에이전트를 구축하기

Project Think는 Cloudflare의 Agents SDK를 한 단계 확장해, 오래 실행되는 AI 에이전트를 위한 핵심 프리미티브를 묶어낸다. 목표는 단순한 챗봇이 아니라, 중단 없이 이어지고 협업하며 스스로 도구를 쓰는 에이전트 인프라를 만드는 것이다.

기존 에이전트는 노트북이나 비싼 VPS에 묶여 있고, 유휴 상태에도 비용이 들며, 설치와 업데이트·시크릿 관리가 번거롭다. Cloudflare는 AI 에이전트가 본질적으로 1:1 구조라며, 전통적인 1:N 애플리케이션과 다른 스케일링 모델이 필요하다고 본다.

핵심은 Durable Objects 위에 에이전트를 올려 각 에이전트에 고유한 identity와 상태, SQLite를 제공하는 방식이다. 에이전트는 hibernated 상태일 때 0 compute cost로 잠들고, 요청이나 WebSocket, 스케줄, 이메일 같은 이벤트가 오면 깨어나 상태를 복원한 뒤 작업을 계속한다.

장기 작업을 위해서는 durable execution with fibers를 제공한다. runFiber()로 실행을 등록하고, stash()로 중간 체크포인트를 남기며, 재시작 시 onFiberRecovered로 복구할 수 있다. 필요하면 keepAlive()와 keepAliveWhile()로 짧은 작업 동안 eviction을 막는다.

또한 sub-agents를 통해 일을 분리한다. 부모 에이전트는 subAgent()로 자식 에이전트를 만들고, 각 자식은 자체 SQLite와 실행 컨텍스트를 가져 데이터가 자동으로 섞이지 않는다. TypeScript 타입 검사로 잘못된 RPC 사용도 컴파일 단계에서 잡는다.

대화와 기억은 Session API가 담당한다. 메시지는 선형 목록이 아니라 parent_id를 가진 트리로 저장되며, 이를 통해 포크, 비파괴적 compaction, 그리고 FTS5 기반 전체 텍스트 검색이 가능하다. 장기간 이어지는 작업에서 문맥을 잃지 않도록 한 설계다.

도구 호출의 한계도 정면으로 다룬다. Cloudflare는 모델이 여러 tool을 순차 호출하는 대신 코드를 작성하게 하는 codemode 접근을 강조한다. 예시로는 파일을 찾고 읽어 TODO를 수집하는 단일 프로그램을 sandbox에서 실행하는 방식이며, Cloudflare API MCP 서버는 두 개의 도구만 노출해 약 1,000 tokens로 처리하고, 전통적인 endpoint별 도구 호출 대비 99.9% 토큰 절감을 달성했다고 밝힌다.

코드 실행은 Dynamic Workers에서 이뤄진다. 런타임에 생성되는 V8 isolate로, 컨테이너보다 약 100x 빠르고, 메모리도 최대 100x 효율적이라고 설명한다. 기본적으로 네트워크 접근이 없는 거의 무권한 상태에서 시작하고, 개발자가 binding으로 필요한 권한만 명시적으로 부여하는 capability model을 채택했다.

이 모든 요소는 execution ladder로 이어진다.

• Tier 0: Workspace, SQLite와 R2 위의 지속형 가상 파일시스템
• Tier 1: 네트워크 없는 Dynamic Worker의 JS 실행
• Tier 2: npm을 추가한 실행 환경
• Tier 3: 브라우저 자동화
• Tier 4: 격리된 sandbox

마지막으로 self-authored extensions까지 제시한다. 에이전트가 런타임에 자기 도구를 직접 작성하고, 필요한 능력을 그때그때 확장하는 방향이다. Project Think는 결국 AI 에이전트를 애플리케이션이 아니라 운영 가능한 인프라로 다루기 위한 기반을 제안한다.