LangGraph의 결함 허용(Fault Tolerance): Retry, Timeout, Error Handler

실제 운영 환경의 AI 에이전트는 네트워크 장애, 도구 호출 오류, LLM 속도 제한 등 프로토타입 단계에서는 보기 힘든 다양한 오류에 직면한다. 작업이 진행되는 도중 복구 불가능한 오류가 발생했을 때, 전체 프로세스를 처음부터 다시 시작하는 방식은 지속 가능한 운영 방법이 아니다.

LangGraph는 이러한 문제를 해결하기 위해 결함 허용(Fault Tolerance)을 핵심 기능으로 제공한다. 에이전트의 각 단계를 노드로 구성하는 LangGraph는 실행 제어권을 직접 관리하므로, 각 단계의 실패 상황에 대응하기에 최적화되어 있다.

LangGraph는 결함 허용을 위한 세 가지 핵심 프리미티브를 제공한다:

• RetryPolicy: 일시적인 오류에 대해 지수 백오프(exponential backoff)와 지터(jitter)를 적용하여 자동으로 재시도한다.
• TimeoutPolicy: 노드 실행 시간에 대해 실제 시간 또는 진행률 기반의 제한을 설정한다.
• error_handler: 재시도가 모두 소진된 후, 실패 컨텍스트를 포함하여 실행되는 노드다.

이 기능들은 add_node를 통해 노드에 직접 설정할 수 있어, 비즈니스 로직 바로 옆에서 결함 허용 설정을 관리할 수 있다. 특히 RetryPolicy는 ConnectionError나 5xx 응답 같은 일시적 오류는 재시도하지만, ValueError나 TypeError 같은 프로그래밍 버그는 재시도하지 않도록 설계되어 효율적이다.