AI Briefing#mlops
#mlops와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#mlops와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
HuggingFace가 Inference API 유료 티어를 종료하고 Inference Endpoints 등 새로운 요금 체계를 도입한다.
컬리가 벤더 락인과 비용 문제를 고려해 AWS SageMaker 대신 Kubeflow를 선택하고, Elyra와 SealedSecrets 등을 적용해 운영 환경을 최적화했다.
컬리가 Karpenter와 NVDP를 활용해 GPU 자원 자동 할당 및 회수를 구현한 자체 MLOps 플랫폼을 구축했다.
Hugging Face Hub의 모델을 관리형 인프라에 쉽고 안전하게 배포할 수 있는 Inference Endpoints 사용법을 소개한다.
TensorFlow Serving과 Kubernetes를 활용해 Vision Transformer 모델을 확장 가능한 환경으로 배포하는 방법을 다룬다.
Hugging Face가 기업용 보안 및 협업 도구를 통합한 Enterprise Hub를 출시했다.
카카오 크루의 데이터 수집부터 ML/AI 활용까지 전 과정을 지원하는 내부 SaaS 플랫폼을 운영 중이다.
카카오 광고추천팀은 대규모 RTB 환경에서 6가지 최적화 모델과 실시간 데이터 파이프라인을 MLOps 구조로 통합 운영하며, 고도화된 서빙 시스템을 구축하고 있다.
카카오가 @if(kakao)2021 컨퍼런스에서 TensorFlow Serving 대비 10배 빠른 추론, BERT 학습 최적화 등 8개 AI 기술 세션을 공개한다.
사전등록 시 이모티콘 제공, 개발자 대상 MLOps·음성·비전 등 AI 기술 세션 소개
Hugging Face가 트랜스포머 모델의 하드웨어별 성능 최적화를 지원하는 오픈소스 라이브러리 Optimum을 공개했다.