AI BriefingDNA Factory, 토큰 단위 로스 시각화 및 5가지 훈련 방식 포함해 오픈소스 공개
DNA Factory: yet another LLM training framework
·2026.11.10 20:35
핵심 내용
DNA Factory가 5가지 훈련 방식과 토큰 단위 로스 시각화 기능을 포함해 오픈소스로 공개됐다
자세히 보기
- dNotitia가 1년 이상 내부에서 사용해 온 파인튜닝 프레임워크 DNA Factory를 오픈소스로 공개함. 각 태스크에 대해 권장하는 접근법 하나만 제공하여 올바른 훈련을 쉬운 경로로 만들도록 설계됨
- ANSI 코드를 활용한 토큰 단위 로스 마스크 시각화 기능을 포함함. 포함되는 토큰은 파란색, 제외되는 토큰은 회색으로 표시되어 연구자가 의도하지 않은 데이터로 훈련하는 일반적인 오류를 방지함
- SFT, DPO, GRPO, OPD, SDFT 등 5가지 훈련 방식만 지원함. DPO는 사용 빈도가 낮아 곧 제거할 예정이며, GRPO, OPD, SDFT는 재앙적 망각을 방지하기 위한 온폴리시(on-policy) 방식임
- Qwen3.8 Flash Next 기반의 미출시 모델 DNA 3.2를 활용한 데모에서 도메인 지식 주입 시 검열 제거 점수가 0.542에서 0.971로, 새로운 페르소나 및 지식 점수가 0.076에서 0.855로 향상됨. 이 과정에서 AIME, IFEval, MMLU-Pro, GPQA 성능은 하락하지 않음
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
