Nous Research, 국가 편향 제거한 Arete-27B 공개

• Nous Research가 알리바바의 Qwen3.8-27B를 기반으로 후학습(post-training)하여 국가 이념 편향을 제거하고 서구 가치를 강화한 오픈 웨이트 모델 Arete-27B를 출시함
• 자체 제작한 803개 프롬프트 평가에서 선전성 답변 비율을 22%에서 1%로 낮추고, 사실성 점수를 5점 만점에서 2.32점에서 2.98점으로 향상시킴
• Hermes Bench 65.60%, Terminal-Bench-2.1 70%를 기록하며 기반 모델 대비 유의미한 성능 저하 없이 일반 역량을 유지함
• 약 5,280만 토큰의 파인튜닝으로 오픈 모델의 가치 정렬이 지능에 영향을 주지 않고 수정 가능한 얕은 층임을 입증함

Methodology and Data

• 7가지 가치 범주에 걸쳐 생성된 20,000개 프롬프트를 사용했으며, Inkling 모델이 교사 응답을 제공함
• AdamW 옵티마이저와 bf16 정밀도를 적용해 2에포크, 1,202스텝으로 파인튜닝을 수행했으며, 강화학습이나 아키텍처 변경은 없었음
• LLM 판정원(Grok 4.7)이 사실 기억력과 프레이밍을 평가했으며, 선전 점수 부여 시 인용 증거를 요구함

Availability

• 모델 웨이트, Propaganda_Eval 데이터셋, 학습 데이터 페어가 Hugging Face에 공개됨
• 평가 스크립트가 오픈소스로 공개되어 커뮤니티가 다른 모델의 유사한 편향 패턴을 테스트할 수 있음