AI Briefing#auto-scaling
#auto-scaling와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#auto-scaling와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Amazon ECS의 배포 전략이 6종으로 확대되고 네트워크 및 스토리지 옵션의 상세 설계 기준과 쿼터 한계가 제시됐다.
AWS EC2 기반 Kafka Streams 애플리케이션을 Kubernetes로 이전하며 KEDA와 Consumer Lag 기반 스케일링을 적용해 인프라 비용을 80% 이상 절감했다.
Netflix가 자체 개발한 오토스케일러의 한계를 극복하기 위해 Apache Flink 커뮤니티의 오픈소스 솔루션으로 전환하고 있다.
LLM 서비스의 트래픽 변동으로 발생하는 유휴 GPU 자원을 모델 학습 및 연구에 재할당하여 인프라 효율을 극대화하는 기술을 소개한다.
LLM 서비스의 트래픽 변동으로 발생하는 유휴 GPU 자원을 연구 및 학습용으로 재할당하는 효율적인 스케줄링 파이프라인을 구축했다.
Amazon ECS가 20초 단위의 고해상도 메트릭을 지원하여 서비스 오토스케일링 속도를 대폭 향상시켰다.
Browser Use가 Firecracker microVM를 활용해 브라우저 세션 비용을 66% 절감하고 실행 속도를 높였다.
GameLift Servers 출시 전 한도 상향, 부하 테스트, Blue/Green 배포를 준비해야 한다.
올리브영은 급격한 트래픽 스파이크에 대응하기 위해 기존 Auto Scaling의 한계를 극복하는 4단계 스케일링 자동화 전략을 제안한다.