ElevenAgents, 음성 에이전트용 메모리·RAG·컴플라이언스 기능 공개

ElevenAgents는 음성 에이전트를 기존 IVR을 넘어 실시간 음성 인식, 추론, 컨텍스트 관리를 통합한 시스템으로 정의한다. 플랫폼은 메모리, 학습, 데이터 처리, 난이도 높은 통화 해결, 개인화, 측정 가능한 성능 등 6가지 핵심 기능을 강조한다.

메모리 및 컨텍스트 관리

플랫폼은 기본적으로 통화 간 메모리를 내장하지 않는다. 대신 동적 변수로 CRM 데이터를 주입하고, 통화 시작 웹훅으로 사용자 이력을 조회하며, 통화 종료 웹훅으로 결과를 기록하는 세 가지 구성 요소를 활용한다. 단일 통화 내에서는 전체 대화 컨텍스트가 자동 유지된다. 멀티채널 상호작용에서는 CRM이나 데이터베이스에서 배경 지식을 가져와 후속 대화를 개인화한다.

지식 베이스 및 RAG

에이전트는 전통적인 모델 학습 대신 **검색 증강 생성(RAG)**을 통해 학습한다. 지원 파일 형식은 PDF, DOCX, TXT, MD, HTML, EPUB이며, 파일당 최대 크기는 20MB다. 시스템은 처리 경로를 자동으로 선택한다:

• 전체 컨텍스트: 추출된 텍스트가 250,000자 미만이면 전체 문서를 프롬프트에 포함한다.
• RAG: 텍스트가 250,000자를 초과하면 인덱싱 후 관련 구절만 검색한다.

컴플라이언스 및 데이터 프라이버시

ElevenAgents는 보존 기간, 오디오 저장 토글, 대화 기록 마스킹 등 세밀한 프라이버시 설정을 제공한다. 트랜스크립트와 녹음의 기본 보존 기간은 2년이지만, 0일에서 무제한까지 맞춤 설정할 수 있다. HIPAA 컴플라이언스를 위해 최소 6년 보존을 권장하며, PHI 처리 시 제로 보존 모드를 활성화해야 한다. 이 모드는 요청/응답 데이터를 즉시 삭제하며, 고객 자체 인프라의 웹훅을 통해 기록을 저장해야 한다.

성능 및 고객 만족도

주요 지표로는 CSAT, 컨테인먼트율(인력 개입 없는 해결), 첫 통화 해결률이 있다. 플랫폼은 높은 컨테인먼트율이 바람직하지만, CSAT 하락과 동반될 경우 품질 저하 없이 너무 빠르게 문제가 해결되고 있을 수 있다고 경고한다. Admiral 등의 사례 연구는 컨테인먼트보다 첫 연락처 해결을 우선시하며, 인간 상담원 연결을 실패가 아닌 긍정적 결과로 본다.