AI Briefing#torch-compile
#torch-compile와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#torch-compile와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
vLLM이 H100에서 네이티브 대비 3.4% 이내 성능을 유지하며 다양한 가속기를 지원하는 하드웨어 독립적 계층을 도입했다.
Google이 PyTorch를 TPU에 네이티브로 올리는 TorchTPU를 공개했다.
torch.compile은 shape가 바뀌면 재컴파일하고 guard로 실행 범위를 제한한다.