Qwen3.6 35B Heretic 공개
Qwen3.6 35B A3B Heretic (KLD 0.0015!) Incredible model. Best 35B I have found!
·2026.04.26 20:48
핵심 내용
Qwen3.6 35B A3B를 Heretic으로 decensor한 버전이 공개됐다.
자세히 보기
Qwen/Qwen3.6-35B-A3B를 Heretic v1.2.0의 MPOA 변형으로 decensor한 모델이 공개됐다.
핵심 지표로는 KL divergence 0.0015를 유지하면서, 거부 응답 비율을 83/100 → 10/100으로 낮췄다고 주장한다.
제시된 abliteration 대상은 다음 3개다.
- attn.o_proj
- attn.out_proj
- mlp.down_proj
추가로 MMLU 테스트 결과와 세부 파라미터 표가 포함돼 있지만, 글의 중심은 성능 비교보다 거부를 줄인 decensor 버전 배포에 있다.
다만 게시글에는 모델 홍보와 후원 요청이 강하게 섞여 있어, 뉴스 가치로는 새 모델 변형과 수치형 비교만 취사선택하는 게 적절하다.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.