AI Briefing#kernel-fusion
#kernel-fusion와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#kernel-fusion와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
신규 커널 퓨징 기법이 B200에서 정규화 지연 90%를 숨기고 어텐션을 35% 가속했다
PyTorch Profiler를 활용해 MLP 구조에서 발생하는 오버헤드를 분석하고 Fused MLP를 통한 최적화 방법을 설명한다.
Transformer 학습의 메모리 병목을 해결하는 GPU 커널 추상화 CODA 공개됨