AI Briefing3x3090서 Mistral 128B 실측
Mistral-Medium-3.5-128B-Q3_K_M on 3x3090 (72GB VRAM)
·2026.05.04 09:46
핵심 내용
3x3090(72GB VRAM)에서 Mistral Medium 3.5 128B Q3_K_M를 로컬로 돌려 9.67t/s를 실측했다.
1 / 2
자세히 보기
**3x3090(72GB VRAM)**에서 Mistral-Medium-3.5-128B-Q3_K_M를 로컬로 돌렸다.
- Python 예제에서는 Mandelbrot 생성 코드를 출력했고, 하단에 504 tokens / 52s / 9.67 t/s가 표시됐다.
- SVG 예제에서는 펠리컨이 자전거를 타는 그림용 SVG 코드를, HTML 예제에서는 Atari 800XL 팬페이지 코드를 생성했다.
- 128B급 모델을 소비자용 GPU 3장으로 돌린 실제 속도 벤치마크다.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
