AI Briefing

5070 Ti+RX 9070로 100tps

5070ti + RX 9070 (non XT), over 100 tps on Qwen 3.6 35B Q4

·2026.04.18 07:22

핵심 내용

RX 9070과 RTX 5070 Ti를 묶어 Qwen 35B Q4를 100tps 이상으로 구동했다.

자세히 보기

i5-12400, B660, 32GB DDR4 시스템에 RX 9070(논 XT) 과 RTX 5070 Ti를 함께 꽂아 llama.cpp Vulkan으로 Qwen3.6-35B-A3B-UD-Q4_K_M를 돌린 결과, 64K 컨텍스트에서 100 tps 이상을 기록했다.

설정은 --split-mode layer, --main-gpu 0, --cache-type-k q4_0, --cache-type-v q4_0, --ctx-size 65536이며, 두 GPU의 VRAM을 사실상 풀링하는 형태로 큰 모델 구동을 시도했다.

부수적으로는 같은 조합에서

  • 5070 Ti: Qwen 9B와 Stable Diffusion을 무난히 처리
  • 9070: 텍스트 생성용으로 약 50 tps
  • SillyTavern: 9070은 텍스트, 5070 Ti는 이미지 생성으로 분리 운용

작성자는 두 카드 가격이 합쳐 약 1300달러 수준이었고, 이 조합이 저렴한 32GB급 VRAM 대안이 될 수 있다고 평가했다.

이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.

AI 처리 방식을 확인하거나, 요약 오류와 출처 표기 문제, 삭제 요청을 문의 · 건의로 알려주세요.