780M iGPU서 Qwen3.6 35B
Qwen3.6 35B-A3B is quite useful on 780m iGPU (llama.cpp,vulkan)
·2026.04.24 17:40
Radeon 780M iGPU에서 Qwen3.6 35B-A3B가 초당 282토큰 프롬프트 처리 속도를 보였다.
ThinkPad T14 Gen 5(AMD 8840U, Radeon 780M, 64GB DDR5 5600 MT/s)에서 llama.cpp의 Vulkan 백엔드로 Qwen3.6 35B-A3B GGUF를 테스트했다.
llama-bench 설정은 다음과 같았다.
-hf AesSedai/Qwen3.6-35B-A3B-GGUF:Q6_K-fa 1-ub 1024-b 1024-p 1024 -n 128 -mmp 0
벤치마크 결과는 pp1024 282.40 t/s, tg128 20.74 t/s였다. 출력상 Vulkan은 AMD Radeon 780M Graphics (RADV PHOENIX) 를 감지했고, 99개 레이어를 오프로딩한 상태로 동작했다.
작성자는 Q6로 돌릴 때는 GTT 증가와 hang timeout 조정이 필요했다고 밝혔으며, full context에서도 정상적으로 동작했다고 적었다.
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.