AI Briefing#pytorch
#pytorch와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#pytorch와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
신규 커널 퓨징 기법이 B200에서 정규화 지연 90%를 숨기고 어텐션을 35% 가속했다
PyTorch Helion이 컴파일 타임 휴리스틱으로 vLLM 커널 대비 1.27x 성능을 달성했다.
ExecuTorch WebGPU 백엔드가 브라우저에서 PyTorch 모델을 직접 실행한다
Meta FAIR의 e-means는 k-means보다 10배 빠르고 손실이 낮다.
ExecuTorch WebGPU 백엔드로 PyTorch 모델이 브라우저에서 4~7배 빠르게 실행된다
NVIDIA가 재학습 없이 MLIP 분자 동역학을 최대 1.7배 가속하는 FP32 기법을 공개했다.
Meta가 PyTorch 추천 모델을 GPU와 TPU에서 학습하는 RecIR 컴파일러를 알파 버전으로 공개했다.
Qwen3 0.6B로 GRPO 학습 시 KL 항 제거가 성능 붕괴 방지와 효율 향상에 핵심임을 확인했다.
Hugging Face가 AWS Trainium2 호환성을 검증하는 TorchNeuron Space를 출시했다.
TorchNeuron이 PyTorch 코드를 AWS Trainium에서 최소 변경으로 실행 가능하게 했다
PyTorch 2.15가 Mac GPU MoE 디코딩을 5~6.5배 향상시키고 FP8을 지원한다.
TorchTPU와 TorchTitan이 대규모 LLM 학습에서 50% 이상 MFU를 달성했다.
TorchNeuron 퓨전이 Trainium에서 RMSNorm 지연 시간을 1/6로 줄였다
Hugging Face가 TorchTPU로 PyTorch의 네이티브 TPU 지원을 활성화했다
PyTorch 2.15가 FP8 지원과 Metal 최적화로 Mac에서 MoE 디코딩 속도를 5~6.5배 높였다
vLLM이 PyTorch 네이티브 TPU 백엔드를 제공해 코드 수정 없이 TPU v7x 구동이 가능해졌다
ModuleLens는 PyTorch 모듈 격리 프로파일링을 지원한다
TorchNeuron이 AWS Trainium에 네이티브 PyTorch 백엔드를 도입했다.
Event2Vec이 비가환 기하 공간을 지원해 시퀀스 순서를 보존하는 이벤트 임베딩을 구현했다.
BrokenML 벤치마크 결과, 설정 파일과 코드만 접근 가능할 때 오픈과 클로즈드 모델 간 성능 격차가 가장 컸다.
rGPU는 로컬 앱으로 원격 NVIDIA GPU 연산을 실행하는 오픈소스 PyTorch 도구다.
PyTorch 모델 아키텍처를 PNG 또는 Graphviz로 변환하는 .NET용 라이브러리 TorchSharpVisual이 공개됐다.
Llama, DeepSeek 등 주요 LLM 아키텍처를 가독성 중심으로 구현한 오픈소스 프로젝트 OpenArch가 공개됐다.