AWS Lambda, Managed Instances에서 GPU 지원 Event Functions 출시
·2026.11.19 04:39
핵심 내용
AWS Lambda가 GPU 지원 Event Functions를 출시해 90분 타임아웃을 제공한다.
자세히 보기
- AWS Lambda가 Lambda Managed Instances(LMI)에서 GPU 가속 Event Functions를 지원하여 EC2 G-series 인스턴스에서 ML 추론, 미디어 처리, 과학 컴퓨팅의 서버리스 실행을 가능하게 함
- GPU 드라이버, CUDA 버전, 클러스터 관리 필요성을 제거하며, 함수는 OCI 컨테이너 이미지로 배포되고 표준 AWS 이벤트로 트리거됨
- vLLM 베이스 이미지를 통해 Qwen/Qwen2.5-1.5B-Instruct 모델을 활용한 데모에서 약 10분 만에 OpenAI 호환 라이브 엔드포인트를 구축했으며, 4개 동시 호출이 단일 호출과 동일한 시간에 완료됨
- GPU 가속 함수는 최대 32 GB 컨테이너 이미지, 32 GB 임시 저장소, 비동기 호출 시 최대 90분 타임아웃을 지원함
구성 및 한계
- 출시 시 지원되는 인스턴스 유형은 G4dn, G5, G6, G6f, Gr6, Gr6f, G6e이며, 메모리는 2,048~32,768 MB, 가속기 메모리는 3~48 GB 범위임
- 실행 환경별 동시성은 최대 48개 요청까지 설정 가능하며, 용량 제공자는 최대 15,000 vCPU까지 확장 가능함
- CUDA, PyTorch, vLLM, SGLang을 위한 큐레이션된 베이스 이미지가 제공되어 수동 드라이버 및 라이브러리 조정을 생략할 수 있음
가격 및 가용성
- 해당 기능은 GA 상태로, 기본 EC2 인스턴스 요금과 GPU 인스턴스 관리 수수료 9.75%, 표준 Lambda 요청 요금(100만 건당 $0.20)이 청구됨
- 기존 Savings Plans와 Reserved Instances가 EC2 비용에 적용되며, On-Demand Capacity Reservations을 통해 예측 가능한 GPU 가용성을 확보할 수 있음
- GPU 사용률, 메모리, 전력 지표는 추가 설정 없이 Amazon CloudWatch와 Lambda 콘솔에서 확인 가능함
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.