#serving-platform와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
넷플릭스는 기존 ML 인프라에 vLLM과 Triton을 통합하여 효율적인 LLM 서빙 체계를 구축했다.