AI21·Deel, Nemotron 3.5 Super VL 후학습으로 Claude Opus 5.5 품질 추월
·2026.11.04 09:00
핵심 내용
AI21과 Deel이 Nemotron 3.5 Super VL을 후학습해 경쟁 모델보다 품질을 8점 높였다.
자세히 보기
- AI21과 Deel이 NVIDIA Nemotron 3.5 Super VL을 후학습하여 글로벌 급여 업무에서 Claude Opus 5.5보다 품질 점수 8점 높이고 토큰 100만 개당 비용을 50분의 1로 절감함
- 기본 모델 대비 품질 점수 20.7점 향상, 개발 세트에서 기준 충족률 0.720, 전 기준 충족률 0.339 달성
- 412개 정제 예제로 near-policy SFT를 수행한 뒤 698개 질문으로 SDPO(자기 증류 정책 최적화)를 적용하는 순차적 학습 방식 사용
- 모델 자체의 힌트 유도 롤아웃으로 학습해 재앙적 망각을 방지하며 near-policy SFT를 통해 기준 충족률을 0.513에서 0.657로 상승시킴
- 특권 교사가 학생 토큰을 평가하는 SDPO 방식을 활용해 정답이 없는 초기 오답 질문에서도 학습 가능하게 하여 기준 충족률을 0.720까지 개선함
- 기본 모델의 주요 실패 원인이 사실 오류가 아닌 불완전한 답변(회피 또는 수치 누락)이었으며, 후학습을 통해 기존 지식을 활용하도록 유도하여 이를 교정함
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.