업스테이지 13B LLM

Upstage-Qanda 13B LLM이 수학 문제 해결 영역에서 SoTA를 달성했다. MS ToRA 13B와 ChatGPT를 넘어섰고, MATH에서는 GPT-4보다 높은 48.8% 정확도를 기록했다.

업스테이지는 Qanda와 KT와 협업해 수학 추론 전용 모델을 만들었다. Qanda의 고품질 수학 데이터와 KT가 제공한 GPU를 바탕으로, 자연어 추론과 프로그램 기반 계산을 결합했다.

핵심 방식은 다음과 같다.

• Chain-of-Thought: 자연어 추론 강화
• Program-of-Thought: 정확한 계산 보완
• GSM8K와 MATH에서 모두 SoTA 달성

업스테이지는 이번 성과가 도메인 특화 LLM 경쟁력을 보여준다고 강조했다. 향후 플래그십 모델 Solar를 중심으로 더 다양한 글로벌 AI 활용처를 넓히겠다고 밝혔고, 연구 방법과 분석은 후속 논문으로 공개될 예정이다.