복잡한 외부 에이전트 통합하기

최신 에이전트 오케스트레이터는 기업용 도구를 넘나들며 복잡한 작업을 수행하며, 이를 위해 애플리케이션, 대화 및 시스템 상태를 정교하게 관리해야 한다. ElevenLabs Agents는 사용자가 기존의 오케스트레이션 권한을 유지하면서도 ElevenLabs의 고도화된 음성 오케스트레이션 기능을 활용할 수 있도록 지원한다.

성공적인 통합을 위해서는 두 가지 핵심 상태 관리가 필요하다.

• Internal state (내부 상태): 대화 흐름, 음성 활동, 추론 과정(reasoning trace), 운영 파라미터 등 대화의 역학을 관리한다.
• External state (외부 상태): 상호작용하는 다른 시스템의 상태, API나 데이터베이스 같은 도구 및 지식 베이스, 외부 액터와의 작업 의존성 등을 관리한다.

이를 구현하기 위해 Custom LLM 뒤에 stateful proxy를 배치하는 아키텍처를 사용한다. conversation overrides를 통해 세션 식별자를 전달하면, 이 식별자가 ElevenLabs를 거쳐 외부 에이전트까지 흐르게 되어 각 요청을 특정 외부 에이전트 연결과 매핑할 수 있다.