AI BriefingDomyn Edge 번들 2, 4B 디스틸링용 전문 티처 5종 공개
Domyn Edge Open Release (bundle 2): five open specialist teachers (Math, STEM, Code, IF, Agentic)
·2026.11.12 00:39
핵심 내용
Domyn이 검증 가능한 보상 기반 GRPO로 학습한 5개 전문 티처 모델을 공개했다.
자세히 보기
- Domyn이 Domyn Edge 프로젝트의 두 번째 번들인 5개의 오픈 전문 티처 모델을 공개함: Math, STEM, Code, Instruction Following, Agentic.
- Domyn Edge는 EuroHPC에서 13T 토큰으로 처음부터 학습되는 4B 모델로, 긴 컨텍스트 에이전틱 작업에 특화되어 설계됨.
- 5개의 티처 모델은 공개된 SFT 체크포인트를 기반으로 Multi-Teacher On-Policy Distillation(MOPD)을 통해 생성되었으며, 각 모델은 SFT 패스에 이어 검증 가능한 보상(verifiable rewards)을 활용한 GRPO를 거침.
- 5개의 티처 모델, 데이터 믹스, 학습 레시피는 Hugging Face의 Domyn Edge 컬렉션에서 확인할 수 있으며, 베이스 모델, 사전 학습 체크포인트, SFT 학생 모델, 학습 코드가 포함된 번들 1과 함께 제공됨.
- 번들 3에는 최종 디스틸링 모델과 기술 보고서가 포함될 예정임.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
