Open LLM Leaderboard 탄소 배출 분석
CO₂ Emissions and Models Performance: Insights from the Open LLM Leaderboard
·2025.01.09 09:00
HuggingFace가 Open LLM Leaderboard 데이터를 통해 모델 성능과 CO₂ 배출량 간의 상관관계를 분석했다.
HuggingFace는 Open LLM Leaderboard에서 평가된 3,000개 이상의 모델을 대상으로 추론 시 발생하는 탄소 배출량을 분석했다. 배출량 계산에는 평가 시간, 하드웨어 전력 소비량, 전력원의 탄소 집약도를 반영한 휴리스틱 방식을 사용했다.
주요 분석 결과는 다음과 같다:
- 모델 크기와 배출량: 모델 크기가 커질수록 CO₂ 배출량이 증가하지만, 성능 향상이 배출량 증가에 비례하지 않는 수익 체감(diminishing returns) 현상이 관찰되었다.
- MoE 모델의 효율성: Mixture-of-Experts(MoE) 모델은 일부 모델에서 추론 시간이 매우 길어, 성능 대비 탄소 배출 효율이 상대적으로 낮게 나타났다.
- 고효율 모델: Qwen-2.5-14B 및 Phi-3-Medium과 같은 소형 모델들이 성능 대비 탄소 배출 효율이 가장 우수한 것으로 확인되었다.
이번 분석은 모델 제작자와 사용자들에게 성능뿐만 아니라 환경적 책임을 고려한 모델 선택의 중요성을 시사한다.
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.