Apollo가 GTM AI를 위해 Deep Agents와 LangSmith를 활용하는 방법

GTM(Go-To-Market) 플랫폼인 Apollo는 제품의 기능이 방대해짐에 따라 사용자가 여러 모듈을 수동으로 조작해야 하는 복잡성 문제에 직면했다. 이를 해결하기 위해 자연어 명령만으로 잠재 고객 발굴부터 데이터 보강, 연락, 측정까지의 전체 루프를 실행하는 Apollo AI Assistant를 구축했다.

기존에는 LangGraph 기반의 Supervisor 구조를 사용했으나, 매번 새로운 사용 사례마다 하위 에이전트를 직접 코딩하고 연결해야 하는 한계가 있었다. 이에 Apollo는 모델 중립성을 확보하고 유연한 실행을 지원하는 Deep Agents로 아키텍처를 재설계했다.

새로운 Deep Agents 아키텍처의 특징은 다음과 같다:

• 동적 스킬 선택: 사용자의 목표에 따라 필요한 스킬(잠재 고객 발굴, 시퀀스 생성, 분석 등)을 에이전트가 스스로 판단하여 실행한다.
• 개발 효율성 극대화: 스킬 기반의 평탄한(Flat) 구조를 통해 초기 개발부터 출시까지 걸리는 작업량을 약 80-85% 단축했다.
• 사용자 경험 개선: 불필요한 확인 절차를 줄이고 응답 속도(Latency)를 개선하여 더욱 자연스러운 대화형 인터페이스를 제공한다.

또한, Apollo는 LangSmith를 활용해 복잡한 멀티 에이전트 시스템의 실행 과정을 추적하고 디버깅한다. 이를 통해 엔지니어들은 로그를 일일이 대조하는 대신, 특정 스레드 ID를 통해 어떤 도구가 어떤 순서로 호출되었는지 즉각적으로 파악할 수 있다. Apollo는 이를 바탕으로 AI Watchtower라는 6계층 평가 프레임워크를 구축하여 AI의 품질을 관리하고 있다.