온디바이스 에이전틱 AI: EXAONE 기반의 LG 유플러스 ixi-O

AI 기술의 중심축이 클라우드에서 개인화된 디바이스로 이동함에 따라, LG유플러스의 AI 비서 **익시오(ixi-O)**에 LG의 파운데이션 모델인 **EXAONE(엑사원)**을 탑재하여 온디바이스 에이전트로 고도화했다.

이번 프로젝트는 클라우드 의존도를 낮춰 인프라 비용을 절감하고, 민감한 통화 데이터를 단말 내부에서 처리함으로써 보안성을 강화하는 데 초점을 맞췄다. 핵심 적용 서비스는 다음과 같다.

• AI 통화 분석: STT로 변환된 비정형 통화 스크립트를 요약, 키워드 및 엔티티 추출, 후속 조치(일정 등록 등) 추천 등 구조화된 정보로 변환한다.
• AI 전화 대신 받기: 기존의 룰(Rule) 기반 응대를 넘어, 발신자의 의도를 파악하고 자연스럽게 대화를 주고받는 대화형 구조로 전환했다.

베이스 모델로는 온디바이스 환경에 최적화된 EXAONE 4.0 1.2B 경량 모델을 채택했다. 이 모델은 스마트폰 환경에 적합한 크기이면서도 지식 추론, 지시 이행, 한국어 이해 등 주요 벤치마크에서 우수한 성능을 보이며, 65K 수준의 롱컨텍스트를 지원해 긴 통화 스크립트 처리에 유리하다.

데이터 학습을 위해 고성능 Teacher Model이 라벨을 생성하고 이를 검증·보완하여 Student Model인 EXAONE에 학습시키는 파이프라인을 구축했다. 또한 모든 태스크를 멀티 태스크 방식으로 학습하여 메모리 점유율을 최소화하고 운영 효율성을 극대화했다.