에이전트 하네스(Agent Harness)의 구조 분석

단순한 챗봇은 데모용으로는 충분하지만, 실제 프로덕션 환경에서는 모델이 이전 단계를 잊거나 도구 호출에 실패하는 등 한계에 부딪힌다. 문제는 모델 자체가 아니라 모델을 둘러싼 인프라에 있다.

이러한 인프라를 **에이전트 하네스(Agent Harness)**라고 부른다. 이는 LLM을 감싸는 오케스트레이션 루프, 도구, 메모리, 컨텍스트 관리, 상태 유지, 에러 처리 등을 포함한 전체 소프트웨어 인프라를 의미한다. Anthropic과 OpenAI 역시 에이전트의 유용성을 결정짓는 핵심 요소를 모델이 아닌 이 '하네스'로 정의하고 있다.

비유하자면, 가공되지 않은 LLM은 RAM, 디스크, I/O가 없는 CPU와 같다. 컨텍스트 윈도우는 RAM 역할을, 외부 데이터베이스는 디스크 역할을, 도구 통합은 디바이스 드라이버 역할을 수행한다. 즉, 하네스는 에이전트의 **운영체제(OS)**와 같다.

에이전트 엔지니어링은 세 가지 계층으로 나뉜다:

• Prompt engineering: 모델이 받는 지침을 설계
• Context engineering: 모델이 무엇을 언제 볼지 관리
• Harness engineering: 도구 오케스트레이션, 상태 유지, 에러 복구 등을 포함한 전체 애플리케이션 인프라 구축

프로덕션급 하네스를 구성하는 주요 요소는 다음과 같다:

• Orchestration Loop: Thought-Action-Observation(TAO) 사이클을 구현하는 심장부로, 모델의 추론과 도구 실행을 반복한다.
• Tools: 에이전트의 '손' 역할을 하며, 스키마 정의부터 실행 및 결과 캡처까지 담당한다.
• Memory: 세션 내의 단기 메모리와 세션을 넘나드는 장기 메모리로 구분되어 작동한다.