Klarna의 AI 어시스턴트가 어떻게 8,500만 명의 활성 사용자를 위한 대규모 고객 지원을 재정의했는가

핀테크 리더인 Klarna는 8,500만 명의 활성 사용자와 일일 250만 건의 거래를 처리하기 위해 LangGraph와 LangSmith 기반의 AI 어시스턴트를 도입했습니다. 이 시스템은 단순한 챗봇을 넘어 결제, 환불, 에스컬레이션 업무를 수행하는 Agent로서, 기존 700명의 풀타임 직원과 맞먹는 업무량을 처리하며 운영 효율성을 극대화했습니다.

Klarna는 정밀한 성능 구현을 위해 다음과 같은 기술적 접근을 채택했습니다.

• Controllable agent architecture: LangGraph를 통해 요청을 라우팅하고 작업을 분리하여 지연 시간(Latency)을 줄이고 신뢰성을 높였습니다.
• Context-aware intelligence: 시나리오별 맞춤형 프롬프트를 적용해 토큰 비용을 절감하고 문맥에 맞는 응답을 제공합니다.
• Test-driven development: LangSmith를 활용해 에이전트의 동작을 단계별로 모니터링하고, LLM evaluation을 통해 성능을 지속적으로 검증 및 개선했습니다.

도입 결과, 지난 9개월간 고객 문의 해결 시간을 80% 단축했으며, 반복적인 지원 업무의 약 70%를 자동화하는 성과를 거두었습니다. 또한 거절 사유에 대한 근본 원인 파악 능력을 개선하여 고객 에스컬레이션 발생률을 크게 낮췄습니다.