AI Briefing#model-deployment
#model-deployment와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#model-deployment와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Netflix가 hosted API 대신 자체 LLM 서빙 인프라를 구축해 모델 배포부터 추론까지 전체 스택을 직접 운영한다.
Hugging Face 모델을 Amazon SageMaker Studio에서 즉시 미세 조정하거나 배포할 수 있는 딥링크 통합 기능이 출시되었습니다.
Hugging Face가 AWS Inferentia2를 지원하여 10만 개 이상의 모델을 SageMaker 및 Inference Endpoints에서 배포할 수 있게 되었다.
Hugging Face와 Microsoft가 협력하여 Azure Machine Learning 내에 Hugging Face 모델 카탈로그를 통합했다.
Hugging Face Hub의 모델을 관리형 인프라에 쉽고 안전하게 배포할 수 있는 Inference Endpoints 사용법을 소개한다.
Hugging Face가 scikit-learn 모델의 허브 호스팅과 문서화를 지원하는 Skops 라이브러리를 출시했다.
Hugging Face Hub에서 spaCy NLP 파이프라인을 공유, 설치 및 추론 API로 사용할 수 있게 되었다.
Hugging Face와 Amazon SageMaker의 협업으로 트랜스포머 모델을 손쉽게 배포할 수 있는 새로운 추론 솔루션이 공개되었다.