3x3090서 Mistral 128B 실측
Mistral-Medium-3.5-128B-Q3_K_M on 3x3090 (72GB VRAM)
·2026.05.04 09:46
3x3090(72GB VRAM)에서 Mistral Medium 3.5 128B Q3_K_M를 로컬로 돌려 9.67t/s를 실측했다.
**3x3090(72GB VRAM)**에서 Mistral-Medium-3.5-128B-Q3_K_M를 로컬로 돌렸다.
- Python 예제에서는 Mandelbrot 생성 코드를 출력했고, 하단에 504 tokens / 52s / 9.67 t/s가 표시됐다.
- SVG 예제에서는 펠리컨이 자전거를 타는 그림용 SVG 코드를, HTML 예제에서는 Atari 800XL 팬페이지 코드를 생성했다.
- 128B급 모델을 소비자용 GPU 3장으로 돌린 실제 속도 벤치마크다.
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.