Parloa, 고객이 대화하고 싶어하는 서비스 에이전트 구축

독일 베를린의 Parloa는 OpenAI 모델을 활용해 음성 기반 고객서비스 시스템을 시뮬레이션, 평가, 운영하는 **AI Agent Management Platform(AMP)**를 구축했다.

초기에는 규칙 기반 음성 에이전트로 시작했지만, 지금은 GPT-5.4 등 최신 모델을 바탕으로 비즈니스 사용자가 코드 없이 역할, 지침, 도구, 경계를 자연어로 정의하고 빠르게 반복 검증할 수 있게 했다.

AMP는 배포 전 대화 시뮬레이션과 평가를 먼저 수행한다. 하나의 모델이 고객 역할을 맡고 다른 모델이 에이전트를 실행하며, 결과는 deterministic checks와 LLM-as-a-judge로 검증해 지시 준수, 도구 호출, 업무 완료 여부를 확인한다.

실서비스에서는 speech-to-text, 모델 추론, text-to-speech가 연결된 저지연 파이프라인이 핵심이다. Parloa는 음성 인식의 단어 오류율, 음성 합성의 자연스러움, speech-to-speech 모델의 지연·정확도·비용을 각각 따로 평가하며, 글로벌 다국어 환경에서 대규모 운영에 맞는 모델만 배포한다.

에이전트가 복잡해질수록 단일 거대 프롬프트의 부작용이 커지자, Parloa는 인증·예약 변경·계정 업데이트 같은 작업을 별도 sub-agents로 분리하고, 중요한 단계는 구조화된 API 체인과 이벤트 기반 로직으로 고정해 안정성을 높였다. 한 글로벌 여행사 사례에서는 인간 상담원 요청이 80% 줄었다.