AI Briefing780M iGPU서 Qwen3.6 35B
Qwen3.6 35B-A3B is quite useful on 780m iGPU (llama.cpp,vulkan)
·2026.04.24 17:40
핵심 내용
Radeon 780M iGPU에서 Qwen3.6 35B-A3B가 초당 282토큰 프롬프트 처리 속도를 보였다.
자세히 보기
ThinkPad T14 Gen 5(AMD 8840U, Radeon 780M, 64GB DDR5 5600 MT/s)에서 llama.cpp의 Vulkan 백엔드로 Qwen3.6 35B-A3B GGUF를 테스트했다.
llama-bench 설정은 다음과 같았다.
-hf AesSedai/Qwen3.6-35B-A3B-GGUF:Q6_K-fa 1-ub 1024-b 1024-p 1024 -n 128 -mmp 0
벤치마크 결과는 pp1024 282.40 t/s, tg128 20.74 t/s였다. 출력상 Vulkan은 AMD Radeon 780M Graphics (RADV PHOENIX) 를 감지했고, 99개 레이어를 오프로딩한 상태로 동작했다.
작성자는 Q6로 돌릴 때는 GTT 증가와 hang timeout 조정이 필요했다고 밝혔으며, full context에서도 정상적으로 동작했다고 적었다.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
