MiniMax M2.7 성능·전력 비교
MiniMax M2.7 AWQ-4bit on 2x Spark vs 2x RTX 6000 96GB - performance and energy efficiency
·2026.05.02 18:44
핵심 내용
MiniMax M2.7 AWQ-4bit를 2x Spark와 2x RTX 6000 96GB에서 성능과 에너지 효율을 비교했다.
1 / 2
자세히 보기
MiniMax M2.7 AWQ-4bit를 2x Spark와 2x RTX 6000 96GB에서 돌려 성능과 전력 효율을 비교했다.
- 평균 기준으로 2x RTX 6000이 프롬프트 처리에서 2.7배, 토큰 생성에서 4.88배 빨랐다.
- 가격 차이는 약 2.9배였고, 100만 토큰 기준 전력 소모는 비슷했다.
- 전기요금 $0.10/kWh 기준 비용 계산도 함께 제시했다.
c1과 c2 결과를 따로 나눠 보여줬으며, c2에서 병렬 요청 2개일 때 결과가 흔들렸다. 각 컨텍스트 크기에서 벤치를 3회씩 반복해 평균냈고, 병렬 고컨텍스트 구간에서는 KV-cache 한계가 영향을 줬을 가능성이 있다.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.