AWS Lambda, Managed Instances에서 GPU 지원 Event Functions 출시

·2026.11.19 04:39

핵심 내용

AWS Lambda가 GPU 지원 Event Functions를 출시해 90분 타임아웃을 제공한다.

1 / 4

자세히 보기

  • AWS Lambda가 Lambda Managed Instances(LMI)에서 GPU 가속 Event Functions를 지원하여 EC2 G-series 인스턴스에서 ML 추론, 미디어 처리, 과학 컴퓨팅의 서버리스 실행을 가능하게 함
  • GPU 드라이버, CUDA 버전, 클러스터 관리 필요성을 제거하며, 함수는 OCI 컨테이너 이미지로 배포되고 표준 AWS 이벤트로 트리거됨
  • vLLM 베이스 이미지를 통해 Qwen/Qwen2.5-1.5B-Instruct 모델을 활용한 데모에서 약 10분 만에 OpenAI 호환 라이브 엔드포인트를 구축했으며, 4개 동시 호출이 단일 호출과 동일한 시간에 완료됨
  • GPU 가속 함수는 최대 32 GB 컨테이너 이미지, 32 GB 임시 저장소, 비동기 호출 시 최대 90분 타임아웃을 지원함

구성 및 한계

  • 출시 시 지원되는 인스턴스 유형은 G4dn, G5, G6, G6f, Gr6, Gr6f, G6e이며, 메모리는 2,048~32,768 MB, 가속기 메모리는 3~48 GB 범위임
  • 실행 환경별 동시성은 최대 48개 요청까지 설정 가능하며, 용량 제공자는 최대 15,000 vCPU까지 확장 가능함
  • CUDA, PyTorch, vLLM, SGLang을 위한 큐레이션된 베이스 이미지가 제공되어 수동 드라이버 및 라이브러리 조정을 생략할 수 있음

가격 및 가용성

  • 해당 기능은 GA 상태로, 기본 EC2 인스턴스 요금과 GPU 인스턴스 관리 수수료 9.75%, 표준 Lambda 요청 요금(100만 건당 $0.20)이 청구됨
  • 기존 Savings Plans와 Reserved Instances가 EC2 비용에 적용되며, On-Demand Capacity Reservations을 통해 예측 가능한 GPU 가용성을 확보할 수 있음
  • GPU 사용률, 메모리, 전력 지표는 추가 설정 없이 Amazon CloudWatch와 Lambda 콘솔에서 확인 가능함

이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.

AI 처리 방식을 확인하거나, 요약 오류와 출처 표기 문제, 삭제 요청을 문의 · 건의로 알려주세요.