네이버 크림 통합 임베딩 v2, 지연 약 4배 단축

네이버 크림 추천 시스템의 통합 임베딩(Universal Embedding) v2가 v1의 한계를 해결하여 응답 지연을 약 4배 단축하고 메모리를 1/6로 절감했다.
v1은 단일 인코더와 InfoNCE 학습을 기반으로 했지만, 모델 붕괴, 768차원의 높은 계산 비용, 그리고 복잡한 조건 조합 처리 불가라는 운영적 한계가 드러났다.
v2에서는 Matryoshka Representation Learning(MRL)을 적용해 하나의 벡터로 여러 해상도를 지원하고, Roaring Bitmap을 활용해 필터 조건을 효율적으로 조합하도록 개선했다.
근사 검색(ANN) 대신 후보 전체를 계산하는 방식을 채택해 계산량은 유지하되 메모리 낭비를 제거했으며, API 구조를 조건 리스트 형태로 확장해 유연성을 높였다.
해당 기술은 후보 생성(Retrieval) 단계에 직접 적용되며, 랭킹 단계의 입력으로도 활용되어 추천 시스템 전반의 효율성을 높이는 데 기여한다.

핵심 내용