Netflix, Foundation Model 통합을 위한 세 가지 접근법 공개

Netflix는 여러 전문 모델의 유지보수 부담을 줄이기 위해 회원 선호 학습을 단일 Foundation Model으로 통합했습니다. 대형 트랜스포머 기반 모델을 기존 프로덕션 시스템에 통합하는 실무 가이드 부재를 해결하기 위해 임베딩, 서브그래프 통합, 파인튜닝 세 가지 접근법을 실험했습니다.

Embedding Store를 통한 임베딩

첫 번째 방법은 Foundation Model로 프로필 및 항목 임베딩을 생성해 Embedding Store에 저장하는 방식입니다. 모델은 월 단위로 사전 학습되고, 새로운 타이틀과 데이터를 반영하기 위해 일 단위로 파인튜닝됩니다. 재학습과 일일 업데이트로 인한 드리프트를 해결하기 위해 임베딩을 일관된 공간으로 매핑하는 임베딩 안정화 기법을 적용합니다.

• 장점: 낮은 비용, 높은 활용도, 애플리케이션 팀의 낮은 진입 장벽.
• 단점: 임베딩 생성과 추론 간 시간 차이로 인한 잠재적 데이터 최신성(staleness) 문제, 실시간 적응성 제한.

Foundation Model을 서브그래프로 활용

이 방법은 Foundation Model의 서브그래프를 다운스트림 애플리케이션 모델에 직접 통합합니다. 서브그래프가 원시 사용자 상호작용 시퀀스를 처리하여 애플리케이션이 더 깊은 레이어를 활용하고 데이터 최신성 문제를 피할 수 있습니다.

• 장점: 데이터 최신성 문제 없음, 더 깊은 모델 레이어 접근 가능, 잠재적 성능 향상.
• 단점: 기능 생성 복잡도 증가, 더 큰 모델 크기, 높은 컴퓨팅 비용. Netflix는 요청당 프로필별로 서브그래프를 한 번만 실행하여 이를 최적화합니다.

Foundation Model 파인튜닝

LLM의 도메인 특화 파인튜닝과 유사하게, 애플리케이션 팀은 제품별 데이터로 Foundation Model을 파인튜닝할 수 있습니다. 전체 파라미터 파인튜닝 또는 특정 레이어 동결 중 선택 가능하며, 'Trending now'와 같은 특정 표면에 맞춘 커스텀 출력 헤드와 목적 함수를 설정할 수 있습니다.

• 장점: 특정 사용 사례에 최적화, 새로운 애플리케이션을 위한 강력한 기준선 제공.
• 단점: 유지보수해야 할 모델 및 파이프라인 수 증가, 지연 시간 및 SLA의 신중한 최적화 필요.

Netflix는 지연 시간을 줄이기 위해 근실시간 임베딩 프레임워크와 Foundation Model의 증류(distilled) 버전에 투자하며 이러한 패턴을 계속 개선하고 있습니다.