gpu-unlock-ada: RTX 4090 FP16 연산 속도 2배로 끌어올리는 Linux 커널 모듈

NVIDIA 드라이버가 로드되기 전에 GPU의 SM 스피드 셀렉트 오버라이드를 적용하는 Linux 커널 모듈이다. RTX 4090(AD102)에서 FP16 및 BF16 텐서 처리 속도를 약 2배로 높이며, FP32 누적 연산 시 165.6 TF/s에서 331.6 TF/s로 성능이 개선된다. 수정된 48GB RTX 4090에서도 유사한 2배 향상 결과가 확인되었다.

RTX 4070 Ti SUPER(AD103)와 RTX 4070 Ti(AD104) 등 다른 Ada 아키텍처 GPU에 대한 실험적 지원도 제공한다. 각 칩셋은 별도의 opt-in 플래그와 정확한 PCI 주소를 요구하며, 일부 모델에서는 240W 전력 제한 하에 FP16/FP32 이슈 레이트가 95.0 TF/s에서 189.9 TF/s로 증가했다. 노트북 GPU는 VBIOS와 전력 레일 차이로 인해 모델별 검증이 필수적이다.

기존 방식과 달리 NVIDIA 드라이버 패치나 UEFI 애플리케이션 수정이 필요 없다. 서명된 펌웨어를 실행하고 완료 마커를 확인한 후, 표준 NVIDIA 드라이버가 바인딩되기 전에 PCIe Function Level Reset(FLR)을 수행한다. 이 과정은 드라이버 초기화 및 CUDA 벤치마크에서 안정적으로 유지되는 것으로 확인되었다.

INT8, dp4a, 스칼라 FP32 연산은 베이스라인 수준을 유지하며, 양자화 mixture-of-experts 워크로드에서는 FP32 누적 텐서 패스를 사용하지 않아 성능 이점이 나타나지 않았다. 따라서 이 모듈은 FP16/BF16 기반의 고해상도 연산이 주된 작업인 환경에서 효과를 볼 수 있다. GPL-2.0 라이선스로 배포되며, 펌웨어는 로컬에서 생성된다.