Qwen, 실시간 거절 제어 기술 공개

기존의 Uncensored 모델은 별도의 체크포인트를 생성해야 했으나, 이번 기술은 **거절 방향 Ablation(refusal-direction ablation)**을 실시간 런타임 변수($\lambda$)로 구현했다.

Qwen3.8-27B 체크포인트와 2.6MB 크기의 방향 번들(direction bundle)을 결합하여, 가중치를 다시 불러올 필요 없이 $\lambda=0$(순수 베이스 모델)에서 $\lambda=1$(조정된 Ablation)로 즉시 전환할 수 있다.

주요 실험 결과는 다음과 같다:

• 거절 빈도: 32/60에서 0/60으로 감소하여 엄격한 거절을 제거함.
• 벤치마크 성능: GSM8K(84% $\rightarrow$ 81%), MMLU-Pro(76.79% $\rightarrow$ 75%) 등에서 통계적으로 유의미한 성능 저하 없이 안정적인 수치를 유지함.
• MTP 수락률: 코드(78.01% $\rightarrow$ 75.64%) 및 일반 트래픽(57.93% $\rightarrow$ 56.89%)에서 성능이 거의 유지됨.

다만, $\lambda$ 값이 1.5를 초과하면 품질이 저하되거나 효과가 역전될 수 있어 적절한 파라미터 조절이 필요하다.