Anthropic, Model Spec Midtraining 발표

Model Spec Midtraining: Improving How Alignment Training Generalizes

·2026.05.08 06:09

핵심 내용

Anthropic이 Model Spec Midtraining으로 정렬 학습의 일반화를 개선했다.

Anthropic이 model spec midtraining(MSM) 단계를 pretraining과 alignment fine-tuning(AFT) 사이에 넣는 방법을 제안했다.

이 단계에서는 Model Spec을 설명하는 합성 문서를 대량 학습시켜, 이후 AFT가 행동 양식뿐 아니라 스펙의 무엇과 왜를 함께 반영하게 만든다.

같은 AFT 데이터를 써도 MSM에서 어떤 Model Spec을 봤는지에 따라 최종 모델의 일반화 방향과 가치가 달라질 수 있다.

이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.

AI 처리 방식을 확인하거나, 요약 오류와 출처 표기 문제, 삭제 요청을 문의 · 건의로 알려주세요.