AI Briefing6900 XT ROCm·Vulkan 비교
AMD Radeon RX 6900 XT - ROCm vs Vulkan - Gemma 4 and Qwen 3.5 speed benchmarks
핵심 내용
6900 XT에서 ROCm 6.4.2와 Vulkan을 비교한 llama.cpp 벤치마크를 공개했다.
자세히 보기
AMD Radeon RX 6900 XT에서 llama.cpp를 ROCm 6.4.2와 최신 Vulkan으로 빌드해 속도를 비교했다.
Gemma 4 E2B Q4_K에서는 pp512가 ubatch 64/128/512/1024에서 Vulkan이 더 빨랐고, 32/256에서는 ROCm이 앞섰다. tg128은 전 구간에서 Vulkan이 우세해 173.35~174.59 tok/s를 기록했으며, ROCm은 151.41~151.92 tok/s 수준이었다.
Qwen 3.5 4B Q8_0에서는 pp512가 모든 ubatch에서 ROCm 우위였다. ubatch 32에서 1368.32 vs 706.18, ubatch 1024에서 3019.70 vs 2386.97로 차이가 컸다.
tg128은 Qwen 3.5에서도 Vulkan이 전 구간에서 앞섰다. Vulkan은 88.46~88.58 tok/s, ROCm은 77.57~77.97 tok/s 범위였다.
요약하면, 이 6900 XT 환경에서는 Vulkan이 생성 속도에서 안정적으로 강했고, ROCm은 Qwen 3.5의 프롬프트 처리에서 더 높은 처리량을 보였다.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
