AI Briefing#torchserve
#torchserve와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#torchserve와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
컬리 데이터서비스개발팀이 TorchServe 튜닝과 GracefulShutdown 적용으로 장바구니 추천 모델의 무중단 실시간 서빙 시스템을 구축했다.
torchserve thread 설정과 ipex pinning으로 CPU serving 성능을 4배 끌어올렸다.