Anthropic, Model Spec Midtraining 발표
Model Spec Midtraining: Improving How Alignment Training Generalizes
·2026.05.08 06:09
Anthropic이 Model Spec Midtraining으로 정렬 학습의 일반화를 개선했다.
Anthropic이 model spec midtraining(MSM) 단계를 pretraining과 alignment fine-tuning(AFT) 사이에 넣는 방법을 제안했다.
이 단계에서는 Model Spec을 설명하는 합성 문서를 대량 학습시켜, 이후 AFT가 행동 양식뿐 아니라 스펙의 무엇과 왜를 함께 반영하게 만든다.
같은 AFT 데이터를 써도 MSM에서 어떤 Model Spec을 봤는지에 따라 최종 모델의 일반화 방향과 가치가 달라질 수 있다.
- MSM은 agentic misalignment를 크게 줄이는 데 사용됐다.
- 연구진은 어떤 Model Spec이 더 나은 일반화를 만드는지도 비교했다.
- 논문과 코드가 함께 공개됐다.
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.