Pi, Agents SDK, Code Mode를 활용해 에이전트를 Durable Object 기반으로 완전히 재설계한 과정

기존의 코딩 에이전트는 매 사용자마다 독립적인 Linux VM을 할당해야 했기에, 사용자 증가에 따른 인프라 비용과 스케일링 문제가 매우 컸습니다. 특히 에이전트가 Bash 명령을 실행하기 위해 항상 켜져 있는 VM이 필요하다는 점이 가장 큰 병목이었습니다.

이를 해결하기 위해 camelAI는 세 단계의 아키텍처 전환을 거쳤습니다. 첫 번째 단계에서는 에이전트의 '두뇌'와 '손(실행 환경)'을 분리하여, 에이전트는 Cloudflare Durable Object에서 실행하고 명령 실행 시에만 VM을 호출하는 방식을 도입했습니다.

두 번째 단계에서는 아예 VM을 제거했습니다. 에이전트의 파일 시스템을 SQLite와 R2 기반의 Durable Object 내부로 옮겼으며, Cloudflare의 Shell 라이브러리를 활용해 VM 없이도 코드를 실행할 수 있는 환경을 구축했습니다.

최종적으로 에이전트는 이제 JavaScript를 직접 작성하며 실행됩니다. 이 방식은 에이전트가 할 수 있는 작업에 명시적인 제한을 두지만, 결과적으로 인프라 비용을 획기적으로 줄이고 사용자 근처의 Edge에서 낮은 지연 시간으로 에이전트를 구동할 수 있게 만들었습니다.