에이전트 하네스는 샌드박스 외부에 있어야 한다

AI 에이전트의 핵심인 에이전트 하네스(Agent Harness), 즉 LLM의 프롬프트와 도구 실행을 반복하는 루프를 어디에서 실행할 것인가에 대한 아키텍처적 접근법을 다룬다.

샌드박스 내부 실행 방식은 루프와 도구가 동일한 컨테이너 내에서 작동하여 구조가 단순하고 기존 도구를 그대로 사용할 수 있다는 장점이 있다. 하지만 보안상 자격 증명(Credentials) 유출 위험이 있고, 세션이 샌드박스 자체에 종속되어 확장이 어렵다는 단점이 있다.

반면, 샌드박스 외부 실행 방식은 루프를 백엔드에서 실행하고 도구 호출 시에만 API를 통해 샌드박스에 접근한다. 이 방식의 주요 이점은 다음과 같다:

• 보안 강화: API 키, 사용자 토큰 등 민감한 정보가 샌드박스에 노출되지 않는다.
• 자원 효율성: 에이전트가 대기 중일 때 샌드박스를 일시 중지하여 비용을 절감할 수 있다.
• 복구 능력: 샌드박스를 소모품(Cattle)처럼 취급하여, 장애 발생 시 루프가 새 샌드박스를 즉시 프로비저닝할 수 있다.
• 멀티 유저 지원: 공유 메모리와 기술을 분산 파일 시스템이 아닌 공유 데이터베이스를 통해 효율적으로 관리할 수 있다.

다만, 이 모델을 구현하려면 배포나 장애 시에도 루프가 유지되는 내구적 실행(Durable Execution) 환경과 로컬 파일 시스템이 없는 환경에 대응하는 설계가 필수적이다.