5070 Ti+RX 9070로 100tps
5070ti + RX 9070 (non XT), over 100 tps on Qwen 3.6 35B Q4
·2026.04.18 07:22
핵심 내용
RX 9070과 RTX 5070 Ti를 묶어 Qwen 35B Q4를 100tps 이상으로 구동했다.
자세히 보기
i5-12400, B660, 32GB DDR4 시스템에 RX 9070(논 XT) 과 RTX 5070 Ti를 함께 꽂아 llama.cpp Vulkan으로 Qwen3.6-35B-A3B-UD-Q4_K_M를 돌린 결과, 64K 컨텍스트에서 100 tps 이상을 기록했다.
설정은 --split-mode layer, --main-gpu 0, --cache-type-k q4_0, --cache-type-v q4_0, --ctx-size 65536이며, 두 GPU의 VRAM을 사실상 풀링하는 형태로 큰 모델 구동을 시도했다.
부수적으로는 같은 조합에서
- 5070 Ti: Qwen 9B와 Stable Diffusion을 무난히 처리
- 9070: 텍스트 생성용으로 약 50 tps
- SillyTavern: 9070은 텍스트, 5070 Ti는 이미지 생성으로 분리 운용
작성자는 두 카드 가격이 합쳐 약 1300달러 수준이었고, 이 조합이 저렴한 32GB급 VRAM 대안이 될 수 있다고 평가했다.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.