별점 뒤에 숨겨진 리뷰의 온도, LLM으로 차별화된 추천 만들기

대부분의 맛집 리뷰가 5점에 몰려 있는 '별점 인플레이션' 현상으로 인해, 사용자는 별점만으로 가게를 신뢰하지 못하고 직접 리뷰 텍스트를 하나하나 검증해야 하는 불편을 겪고 있다.

이를 해결하기 위해 LLM-as-a-Judge 방식을 도입하여 리뷰 텍스트에 담긴 '진심의 온도'를 정교하게 수치화했다. LLM은 단순한 긍정/부정 분류를 넘어 미묘한 수식어, 재방문 의사, 구체적인 맛 묘사 등을 종합적으로 분석해 리뷰의 진정성을 판별한다.

수천만 건의 리뷰를 유료 API로 처리하는 비용 문제를 해결하고자 지식 증류(Knowledge Distillation) 전략을 사용했다. 고성능 **Teacher Model(LLM)**이 생성한 고품질 라벨링 데이터를 바탕으로, 사내 데이터로 선행 학습된 **Student Model(ELECTRA)**을 학습시켜 실 서비스 환경에 최적화된 추론 속도와 성능을 확보했다.

최종적으로 AI 점수를 기존 별점에 더하는 가점 방식을 채택했다. **베이지안 스무딩(Bayesian Smoothing)**을 적용해 데이터 양에 따른 왜곡을 방지하고, 기존 별점의 위계질서를 유지하면서도 리뷰의 질적 차이를 반영할 수 있는 정교한 추천 시스템을 구축했다.