#gpu-serving와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
핀터레스트가 다중 의도를 반영하는 조건부 학습 검색(CLR)을 홈 피드에 확장해 효율성을 높였다.
BTB가 반복 프리픽스 버스트를 예측해 KV 캐시를 GPU HBM에 선제 복제한다.
MMOE-DCN 기반 GPU 서빙으로 광고 참여도 예측의 정확도와 지연을 함께 개선했다.