AI21, NVIDIA Nemotron 3.5 Super VL 포스트 트레이닝으로 기업용 특화 모델 개발
핵심 내용
AI21이 3개 파트너와 NVIDIA Nemotron 3.5 Super VL을 3주 만에 포스트 트레이닝해 저비용 프론티어 성능을 확보했다.
자세히 보기
AI21의 Forward-Deployed Researchers(FDR) 팀이 Gong, Deel, Alice와 협력해 최근 공개된 NVIDIA Nemotron 3.5 Super VL을 포스트 트레이닝했다. 이 사례는 AI21의 Lab-as-a-Service와 자체 Harness 플랫폼을 통해 기업이 범용 모델 임대에서 자체 특화 지능 소유로 전환하는 방식을 보여준다. 전체 과정은 분기가 아닌 몇 주 만에 완료됐다.
Gong: 낮은 비용으로 프론티어 품질 달성
매출 AI 기업 Gong은 월 수천만 건의 고객 상호작용을 처리하는 Gong Data Extractor의 비용을 절감해야 했다. 거래 및 계정 정보 식별 정확도를 유지하는 것이 목표였다.
- 방법: FDR 팀은 고유 학습 데이터셋을 구축하고 2주간 SFT와 DPO 기법을 적용했다.
- 결과: 특화 모델은 Gong의 평가 기준에서 Claude Opus 5.5와 동일한 속도와 정확도를 기록했으나, 비용은 극히 일부에 불과했다.
Deel: 급여 QA에서 프론티어 정확도 초과
글로벌 HR 및 급여 플랫폼 Deel은 부분적인 답변을 오답으로 간주하는 복잡한 관할권별 급여 질문에 완전한 답변을 제공할 수 있는 모델을 필요로 했다.
- 방법: Emet by Deel의 전문가 검증 데이터를 활용해 프루닝된 롤아웃에 대한 SFT와 SDPO(자기 증류 정책 최적화)를 순차 적용하는 2단계 레시피를 사용했다.
- 결과: 8개국 급여 벤치마크에서 답변 정확도가 **72%**에 도달했으며, 이는 Claude Opus 5.5보다 8포인트 높은 수치다. 쿼리당 비용은 33배 저렴했다.
Alice: 공격 복원력 강화
AI 안전 기업 Alice는 Slack과 GitHub 같은 환경에서 간접 프롬프트 인젝션 공격에 대한 모델의 복원력을 향상시키고자 했다.
- 방법: Alice의 “Rabbit Hole” 데이터셋과 RL gym을 활용하여 SFT와 DPO를 적용한 뒤, 다양성과 성능을 높이기 위해 GRPO(온라인 RL)를 추가로 수행했다.
- 결과: 포스트 트레이닝된 모델은 전체 작업 성능 저하 없이 공격 복원력을 41포인트 개선해 GPT-6.1 Sol을 능가했다.
AI 독립성 시사점
이러한 협업은 **주권적 특화 지능(sovereign specialized intelligence)**으로의 전환을 강조한다. Nemotron 3.5 Super VL 같은 오픈 파운데이션 모델을 자체 데이터로 포스트 트레이닝함으로써, 기업은 비용 절감, 정확도 향상, 보안 강화 등 특정 성능 목표를 달성하면서도 에이전트 행동과 데이터를 완전히 통제할 수 있다. 기본 평가부터 특화 배포까지 전체 과정은 단 3주가 소요됐다.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.