NVIDIA Nemotron, IOI와 IMO 2026 금메달급 성과
One Model Family, Two Gold-Level Results: Fine-Tuning Nemotron for IOI and IMO
핵심 내용
NVIDIA Nemotron이 IOI와 IMO 2026에서 금메달 수준의 성과를 달성했다.
자세히 보기
NVIDIA가 Nemotron 모델 계열을 국제정보올림피아드(IOI)와 국제수학올림피아드(IMO)를 위한 세계적 수준의 전문가 모델로 미세 조정하는 데 성공했다. 지도 학습(SFT), 강화 학습(RL), 피드백 기반 추론을 결합해 두 대회 모두에서 금메달 수준의 성과를 달성했다.
IOI 2026 성과
총 파라미터 5500억개, 활성 파라미터 550억개인 Nemotron-3-Ultra-CC 모델은 실제 대회에서 535.4/600점을 획득했다. 이는 공식 금메달 기준인 361.12점을 크게 상회하며, 인간 최고 점수인 498.27점도 넘어섰다. 해당 시스템은 SFT와 반복적인 생성-평가-정제 전략인 GenCorrect를 활용했다. 더 작은 변형인 Nemotron-3-Nano-CC(총 300억/활성 30억) 역시 SFT, RL, GenCorrect 적용 후 468점을 기록해 금메달 기준인 438.3점을 통과했다.
IMO 2026 성과
IMO에서는 Nemotron 3 Ultra를 SFT와 RL로 훈련했다. SFT 데이터셋은 15,818개의 고유 증명 문제에 걸친 414,890개의 고품질 예시를 포함했으며, RL 모델은 성능 한계 지점의 9,597개 문제로 훈련됐다. 최종 시스템은 외부 도구나 인터넷 접근 없이 SFT와 RL 체크포인트를 결합한 생성-검증-정제 루프를 통해 30/42점을 획득했다. 이는 공식 금메달 기준인 29점을 초과했으며, 6문제 중 4문제에서 만점을 받았다.
오픈 리소스
NVIDIA는 모델, 데이터, 레시피를 Hugging Face에 공개했다. 주요 리소스로 Nemotron-3-Ultra-CC 모델, 훈련 데이터셋과 Nemotron-IMO-Bench(200문제)를 포함한 Nemotron Labs IMO 2026 컬렉션, 추론 파이프라인과 프롬프트가 담긴 NeMo-Skills 저장소가 있다.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.