컨텍스트 윈도우 한계를 넘어 - Deep Insight 개발 여정으로 배우는 Context Engineering 실전 기법

AI 에이전트를 프로덕션 수준으로 만들면 단순 Q&A와 달리 데이터 탐색, 분석, 검증, 리포트 생성이 한 작업 안에 길게 이어지며 Context window 초과, 성능 저하, 재실행 비용 문제가 바로 드러난다. AWS Korea SA Team은 이를 해결하기 위해 Deep Insight라는 프로덕션급 Multi-Agent 시스템을 만들고, 그 과정에서 검증한 Context Engineering 실전 기법을 4개 계층으로 정리했다.

핵심 출발점은 Claude Sonnet 4.5의 200K Context window도 실제 업무 흐름에서는 쉽게 부족해진다는 점이다. 예시로 판매 데이터 분석 후 DOCX 리포트를 만드는 작업은 로드·탐색, 카테고리별 매출 분석, 시계열 분석과 차트 생성, 통계 검증, 최종 리포트 작성으로 이어지며 총 15분, 150K 토큰 이상을 소모할 수 있다. 단일 Context에 모든 것을 넣으면 중간 실패, 오래된 Context로 인한 성능 저하, 전체 재실행, 그리고 토큰 기반 비용 증가가 동시에 발생한다.

Deep Insight는 이 문제를 다음 4가지 레이어로 나눠 처리한다.

• Layer 1: 아키텍처 - 멀티 에이전트 구조로 Context를 분리한다. Coordinator, Planner, Plan Reviewer, Supervisor, Coder, Validator, Reporter, Tracker가 각자 독립 Context에서 일하고, 공유 정보는 messages, clues, full_plan, history 정도로만 제한한다.
• Layer 2: 프롬프트 - 각 에이전트의 출력 토큰 예산을 명시하고, Self-contained 코드 원칙과 완료 규칙을 프롬프트로 강제해 불필요한 Context 유입을 막는다. Coder는 1,000~1,500 토큰, Validator는 800 토큰, Reporter는 1,000 토큰 수준으로 제한한다.
• Layer 3: 도구 - 무거운 코드와 중간 산출물을 Context에 쌓지 않고 파일로 외부화한다. write_and_execute_tool로 코드 작성과 실행을 한 번에 처리해 코드 본문을 Context에 남기지 않고, 공통 함수는 coder_analysis_utils.py 같은 모듈로 재사용한다.
• Layer 4: 검증/안전장치 - all_results.txt, calculation_metadata.json, citations.json 같은 구조화된 파일과 검증 에이전트를 활용해 품질을 보장하고, Context overflow를 막는 최종 방어선을 둔다.

특히 Structured Note-Taking은 에이전트 간 협업의 핵심으로, 각 작업의 상세 결과를 all_results.txt에 누적하고 다음 에이전트는 필요할 때만 읽는다. 덕분에 Coder가 Supervisor에게 넘기는 메시지는 “분석 완료, 주요 인사이트 3개 발견, 상세 결과는 파일에 저장됨” 수준으로 줄어들고, 긴 분석 내용은 파일 시스템에 안전하게 보관된다. 결국 Deep Insight가 보여주는 요지는 명확하다. Context Engineering은 프롬프트 한 줄의 문제가 아니라, 아키텍처·도구·검증을 함께 설계해 Context를 아끼는 전체 시스템 설계라는 점이다.