장기 실행 에이전트 - 에이전트가 며칠 동안 실행되면 무엇이 달라지는가

AI 에이전트가 단일 채팅 세션을 넘어 수일에서 수주간 자율적으로 실행되는 새로운 패러다임이 등장하고 있다. 이는 단순한 질문 답변을 넘어 전체 기능 개발이나 복잡한 리서치를 수행하는 단계로의 진화를 의미한다.

장기 실행의 세 가지 차원

• Long-horizon reasoning: 복잡한 계획과 실행 능력 (모델 품질의 영역).
• Long-running execution: 수천 번의 모델 호출을 견디는 하네스(harness) 설계.
• Persistent agency: 사용자의 선호와 메모리를 축적하며 정체성을 유지하는 능력.

직면한 세 가지 기술적 장벽

• 유한한 컨텍스트: 컨텍스트 윈도우가 채워지기 전 발생하는 context rot(성능 저하) 문제.
• 영속 상태 부재: 세션이 끊기면 이전 작업을 기억하지 못하는 '기억상실' 문제.
• 자기 검증 부재: 모델이 자신의 작업 결과에 대해 지나치게 긍정적으로 평가하는 편향성.

주요 설계 패턴 및 아키텍처

• Ralph 루프: 에이전트 자체는 무상태(stateless)로 두되, 파일 시스템(JSON, txt 등)을 외부 메모리로 활용하여 계획과 진행 상황을 기록하는 실무적 패턴.
• Anthropic의 분리 구조: 모델(Brain), 실행 환경(Hands), 그리고 모든 기록을 담는 **세션 이벤트 로그(Session)**를 분리한다. 이를 통해 샌드박스가 파괴되어도 로그를 통해 상태를 즉시 재구성할 수 있는 복구 가능성을 확보한다.
• Cursor의 구조: Planner, Worker, Judge의 삼중 구조를 통해 생성과 평가를 분리하여 모델의 자기 과신 문제를 해결한다.