PyTorch Foundation, 6개 주요 프로젝트 업데이트 발표

PyTorch Foundation은 2025년 4월, AI 생애주기 전반의 혁신을 위해 multi-project Foundation으로 확장되었으며, 현재 PyTorch, vLLM, DeepSpeed, Ray, Helion, Safetensors 등 6개 프로젝트를 호스팅하고 있습니다.

PyTorch 주요 업데이트:

• PyTorch 2.13 출시: Apple Silicon에서 최대 12배 빠른 FlexAttention 도입, 메모리 사용량을 최대 4배 절감하는 nn.LinearCrossEntropyLoss 추가, Python 3.15 지원.
• 분산 학습 및 플랫폼: 대규모 클러스터 학습을 위한 torchcomms 백엔드 및 FSDP2 통신 오버랩 추가, ROCm/Arm/Intel XPU 지원 확대.
• 온디바이스 AI: ExecuTorch를 통한 온디바이스 LLM 기능 확장 및 Hugging Face와의 협업.

vLLM 주요 업데이트:

• 성능 향상: Model Runner V2 재설계를 통해 GPTQ 성능을 대폭 개선했으며, 격주 릴리스 주기를 확립함.
• 모델 지원: Kimi K3, Minimax M3, Qwen 3.8 등 최신 SOTA 모델에 대한 Day-zero 지원 지속.
• 로드맵: 2026년 3분기 로드맵을 통해 에이전트 워크로드 최적화 및 KV 캐시 동작 방식 재설계 계획 발표.