광고 관련성 강화: 순차 추천 모델에 실시간 컨텍스트 통합

**기존 광고 후보 생성기(CG)**는 Transformer 기반 two-tower model로 오프사이트 전환 이력만 활용해, 사용자가 지금 보고 있는 맥락을 반영하지 못했다. 특히 Related Pins와 Search처럼 현재 맥락이 중요한 surface에서는 후보가 ranking과 auction을 통과하지 못했고, Related Pins에서는 이 CG의 impressions 비중이 1% 미만이었다.

이를 해결하기 위해 Contextual Sequential Two Tower Model을 도입하고, query tower에 context layer를 추가했다. Transformer encoder가 만든 시퀀스 표현에 실시간 컨텍스트를 결합해 최종 user embedding을 만들며, Related Pins에서는 subject Pin(현재 보고 있는 Pin)의 interest categories를 confidence score로 가중한 값을 컨텍스트 입력으로 사용했다. 사용자 표현에는 연령, 국가, 성별 같은 demographic embedding도 추가했다.

훈련은 실제 online context를 그대로 쓸 수 없어 synthetic augmented data로 진행했다. positive label(전환 이벤트)에서 pseudo-context를 만들어 입력에 주입하고, training 시 context layer dropout을 높여 시퀀스 정보도 계속 학습하게 했다.

서빙은 hybrid inference로 구성했다.

• Offline: Transformer encoder의 마지막 hidden state를 feature store에 저장하고 매일 갱신했다.
• Online: context layer와 최종 MLP head만 ad request 시점에 계산했다.

성과는 뚜렷했다. offline Recall@K는 production model 대비 3배~10배 높아졌고, 후속 ranking funnel을 통과하는 후보 생존율이 올라가면서 median relevance는 약 275~300% 개선됐다. Related Pins 전체 광고 관련성 지표는 1.08% 상승했고, 노출까지 이어지는 후보 수도 2배 늘었다. 최종적으로 ROAS는 약 0.7% 올랐고, 매출 비중이 큰 상위 국가에서는 1.4% 상승했다.

앞으로는 이 contextual CG를 Search로 확장하고, 단순 concat 대신 cross-attention으로 context와 sequence를 더 정교하게 결합하는 방향을 검토한다.