Yandex Music, 단일 Transformer 추천 모델 Sona 테스트

Yandex Music은 15개 이상의 후보 생성기, 사전 랭킹, 랭킹 모델로 구성된 기존 추천 시스템 아키텍처를 대체하는 단일 Transformer 모델 Sona를 개발했다. 전체 트래픽 적용 전 단계지만, 스마트 스피커 대상 A/B 테스트에서 기존 프로덕션 대비 유의미한 성능 향상을 입증했다.

아키텍처 및 히스토리 압축

Sona는 긴 시퀀스에 대한 전체 어텐션의 연산 비용을 관리하기 위해 History Compression 기술을 사용해 최대 8,192개 이벤트를 처리하며, 이를 통해 추론 비용을 약 절반으로 줄인다. 히스토리는 두 블록으로 나뉜다:

• 과거 이벤트: 6,144개
• 최근 이벤트: 2,048개

이 블록들은 크로스 어텐션과 단일 전체 히스토리 셀프 어텐션 레이어를 통해 정보를 교환한다. 이후 7층 스택은 최근 2,048개 이벤트만 처리한다. 이 설계는 전체 어텐션의 품질을 대부분 유지하면서 과거 이벤트를 디코더와 Ranking Module이 볼 수 있게 하며, 두 모듈이 동일한 인코더 출력을 읽어 요청당 인코더 실행 횟수를 한 번으로 제한한다.

A/B 테스트 결과

각 군에 사용자의 15%를 포함해 7일간 진행된 A/B 테스트에서 Sona는 통계적으로 유의미한 결과(p < 0.01)로 프로덕션 스택을 능가했다:

• 활성 사용자 +4.53% 증가
• 총 청취 시간 +6.30% 증가

후보는 Semantic ID로 빔 서치를 통해 생성되며 즉시 점수를 매긴다. 참여 지표는 개선되었으나, 팀은 프로덕션 스택 대비 카탈로그 커버리지가 낮다는 점을 지적하며 원인을 조사 중이다. 장기 A/B 테스트는 현재 진행 중이다.