프로덕션 환경의 CX 에이전트: Lyft, Vodafone, LATAM Airlines의 교훈

Customer Experience(CX) 에이전트가 프로덕션에 도입되면서 핵심 과제는 구축에서 운영과 지속적인 개선으로 이동했다. 빠른 응답은 전환율을 높이고, 에스컬레이션과 상담 비용을 줄이며, 문제 해결률을 높여 고객 유지에도 영향을 준다.

프로덕션 단계의 팀들은 에이전트를 지속적인 테스트·배포·모니터링·반복 개선이 필요한 시스템으로 다룬다. 주요 활용 패턴은 다음과 같다.

• 고객 대면 셀프서비스 에이전트: 결제, 계정 접근, 보험 청구, 예약 등을 처리한다. Podium의 AI Employee는 문의 후 5분 이내 응답했을 때 1시간 이내 응답보다 리드 전환율이 46% 높았다.
• 상담원·현장 직원 코파일럿: Cisco는 네트워크 엔지니어에게 수천 개의 잠재적 발견 사항 중 중요한 문제만 추려 다음 조치를 제시한다.
• 셀프서비스 에이전트 플랫폼: Lyft는 운영팀과 제품 관리자가 머신러닝 엔지니어의 도움 없이 프롬프트와 설정 파일만으로 지원 에이전트를 출시할 수 있는 플랫폼을 구축했다.
• 의미 기반 라우팅과 트리아지: 불완전하거나 모호한 고객 요청을 적절한 에이전트와 워크플로로 연결한다.

LATAM Airlines의 여행 지원 에이전트 Concierge에서는 초기 메시지의 13%가 범위 밖으로 분류됐다. 그러나 대화를 분석한 결과 이 중 95%는 체크인과 수하물 문의처럼 실제 승객 요구였으며, 고객관리 전문 에이전트를 추가한 뒤 범위 밖 비율은 1%로 낮아졌다.

Fastweb과 Vodafone은 고객 대화와 내부 콜센터 지원을 함께 수행하는 Super TOBi와 Super Agent를 구축했다. 여러 팀이 에이전트 개발에 참여하면서는 무엇이 좋은 응답인지 정의하고 출시 가능 여부를 판단할 수 있는 공통 기준인 evals가 중요해졌다.

Lyft는 비엔지니어도 에이전트를 만들 수 있도록 개방한 뒤 플랫폼보다 프롬프트와 평가 품질이 주요 제약이라는 점을 확인했다. 이에 구조화된 프롬프트 작성 프레임워크와 모순된 지시, 불완전한 대화 경로를 사전에 찾는 자동 검사를 도입했다.

이러한 운영 방식은 LangSmith, Deep Agents, LangGraph를 활용한 Agent Development Lifecycle 전반의 지속적인 테스트와 개선으로 확장된다. LATAM Airlines의 Compass처럼 비정형 대화를 구조화된 신호로 바꾸는 시스템도 고객 경험을 개선하는 기반으로 활용된다.