프롬프트보다 시스템

6개 에이전트 시스템을 실제 운영하며, Gmail·Gcal·재무 데이터·예산·주간 리서치·업무용 폼 작성·수면/건강 데이터까지 맡긴 경험을 바탕으로 정리한 글이다.

핵심 메시지는 모델 교체나 프롬프트 수정만으로는 한계가 있고, 실제 성능은 아키텍처와 시스템 엔지니어링에서 갈린다는 점이다.

실제로 효과가 있었던 첫 번째 방법은 프롬프트를 역할별로 분리하는 것:

• durable identity file: 에이전트가 누구인지, 무엇에 접근 가능한지 고정
• operating model: 라우팅, 에스컬레이션, 핸드오프 규칙 정의
• task-specific objective: 실행할 때마다 바뀌는 작업 목표

또한 거대한 수동 프롬프트를 쓰지 않고, 모듈화된 소스 파일을 런타임에 조합해 컴파일하는 방식이 중요하다고 말한다. 이렇게 하면 정책 변경이 이후 모든 실행에 일괄 반영되고, 컨텍스트가 불필요하게 뒤섞이는 문제를 줄일 수 있다.

요약하면, 에이전트가 멈추고 잊어버리고 엉키는 문제는 대부분 "더 똑똑한 모델"의 문제가 아니라 컨텍스트 관리와 운영 구조 설계의 문제라는 주장이다.