에이전트 프레임워크와 에이전트 관측 가능성에 대하여

LLM 성능이 향상됨에 따라 에이전트 프레임워크의 역할도 변화하고 있다. 에이전트는 모델을 둘러싼 시스템으로서 사라지는 것이 아니라, 모델의 발전에 맞춰 함께 진화해야 한다.

에이전트 패턴은 지난 3년간 RAG에서 시작해 워크플로 오케스트레이션, 그리고 현재의 도구 호출 루프(tool-calling-in-a-loop) 방식으로 진화해 왔다. 이에 따라 세 가지 세대의 프레임워크가 등장했다.

• LangChain: 2023년 LLM을 데이터 및 API와 연결하는 가장 쉬운 방법으로 인기를 끌었으나, 초기에는 다소 경직된 구조를 가졌다.
• LangGraph: 상태 유지(statefulness)와 내구성을 지원하는 런타임을 포함하여, 인간-에이전트 및 에이전트 간 협업에 최적화된 유연한 구조를 제공한다.
• DeepAgents: 최신 에이전트 하네스로, 장기 과제 계획, 도구 호출 루프, 파일 시스템 컨텍스트 오프로딩 등을 지원하며 모델에 종속되지 않는 유연성을 갖췄다.

또한, 에이전트를 실제 서비스에 적용할 때 가장 큰 장벽은 품질 관리이며, 이를 위해 LangSmith와 같은 목적 기반의 에이전트 관측 가능성(Agent Observability) 도구가 필수적이다. LangSmith는 특정 프레임워크 사용 여부와 관계없이 독립적으로 작동하도록 설계되었다.