Alibaba, 추천 시스템용 RecGPT-V3 공개

RecGPT-V3는 기존 LLM 기반 추천 시스템의 한계인 상태 비저장(Stateless) 모델링, 정보 병목 현상, 비효율적인 추론 비용 문제를 해결하기 위해 설계된 하이브리드 모달 추천 모델이다.

주요 기술적 특징은 다음과 같다:

• Memory Hub: 사용자의 장기 행동 데이터를 압축된 단위로 구조화하여 관리함으로써 사용자 모델링 계산량을 55.8% 절감한다.
• Hybrid-modal Foundation Model: 자연어 태그와 **Semantic IDs (SIDs)**를 결합하여 아이템 공간에 대한 고대역폭 정보 채널을 확보했다.
• Latent Intent Reasoning: 장황한 사고 과정(CoT)을 압축 가능한 **잠재 토큰(Latent Tokens)**으로 내재화하여 출력 토큰 비용을 200배 절감했다.

타오바오의 'Guess What You Like' 피드에 실제 적용된 결과, GMV 3.97% 상승, CTR 1.00% 상승 등 비즈니스 지표가 개선되었으며, 엔드 투 엔드 서빙 리소스 소비는 52.4% 감소하는 성과를 거두었다.