Hugging Face, ROCm 커널 빌드 도구 공개

Hugging Face의 kernels 라이브러리와 kernel-builder를 활용하면 CUDA, ROCm, Metal, XPU 등 다양한 가속기 백엔드를 지원하는 커스텀 커널을 손쉽게 빌드하고 PyTorch와 통합할 수 있다.

기존 커스텀 커널 빌드 시 발생하는 복잡한 CMake/Nix 설정, 컴파일러 오류, ABI 문제 등을 해결하여 커널의 이식성과 재현성을 높이는 데 중점을 둔다.

가이드에서는 AMD Instinct MI300X GPU에 최적화된 RadeonFlow GEMM 커널을 예시로 사용한다. 이 커널은 FP8 저정밀도 형식을 사용하여 높은 처리량과 낮은 메모리 대역폭을 제공하며, AMD Developer Challenge 2025에서 대상을 수상한 고성능 행렬 곱셈 구현체다.

개발자는 이 도구를 통해 작성한 커널을 구조화하고 빌드하여 kernels-community를 통해 전 세계 개발자들과 쉽게 공유할 수 있다.