AI 에이전트에서의 HITL: 정의, 적용 사례 및 HOTL과의 차이

HITL의 정의와 운영 원칙

**Human-in-the-Loop(HITL)**은 AI 모델의 자동화 시스템과 인간 전문가 간 작업을 명확한 운영 경계에 따라 분배하는 워크플로우다. AI는 예측 가능하고 규칙 기반인 루틴 업무를 담당하며, 인간은 복잡한 의사결정, 컴플라이언스 준수, 엣지 케이스 처리를 수행한다. 핵심 메커니즘은 사전 정의된 규칙을 기반으로 조건 충족 시 워크플로우를 일시 정지하거나 사람에게 인계하는 것이다.

비즈니스 적용 사례와 성과

실제 비즈니스 환경에서 HITL은 비용 절감과 정확성 향상에 기여한다.

• Valiant Finance: 야간 에이전트 'Sophia'가 구조화된 인테이크를 처리하고 필요 시 인간 브로커로 이관하여, 야간 통화의 약 29%를 처리하고 150만 달러 이상의 대출 의도를 식별했다.
• Finch Legal: ElevenAgents 도입으로 통화 성공률이 59%에서 93%로 향상되었으며, 인간 에이전트의 통화 시간은 기존 대비 약 1/6로 감소했다.
• Customers Bank: ElevenAgents를 도입하여 계좌 조회, 카드 서비스, 송금, 온보딩 등에 활용하며, 모든 에이전트에 인간 인계 경로를 구축했다. AI가 일상적인 은행 업무를 처리하고, 인간 뱅커는 개인적인 주의가 필요하거나 에이전트 역할 밖의 결정이 필요한 경우 개입한다.

HITL vs HOTL 비교

HITL과 **Human-on-the-Loop(HOTL)**은 인간 개입의 시점과 성격에서 차이가 있다.

• HITL: 특정 결정 진행 전 인간 참여가 필수다. 컴플라이언스, 재무 책임 등 고위험/복잡 작업에 적합하다.
• HOTL: 인간 승인 대기 없이 AI가 작동하며, 인간은 모니터링 후 필요 시 개입한다. 관찰 가능하고 되돌릴 수 있는 저위험 작업에 적합하다.

예를 들어, 보험 청구의 커버리지 예외 검토는 HITL에 해당하며, AI 음성 에이전트가 일반 통화를 처리하고 매니저가 모니터링하는 것은 HOTL에 해당한다. Banking, Healthcare 등 다양한 분야에서 ElevenAgents 등을 활용해 이러한 모델을 적용하고 있다.