Qwen-Scope 공식 SAE 공개
Qwen-Scope: Official Sparse Autoencoders (SAEs) for Qwen 3.5 models
·2026.04.30 18:40
핵심 내용
Qwen이 Qwen 3.5와 Qwen3용 공식 Sparse Autoencoders를 공개했다.
자세히 보기
Qwen-Scope 컬렉션에서 Qwen 3.5와 Qwen3 계열용 공식 Sparse Autoencoders(SAEs) 를 공개했다.
함께 올라온 QwenScope Space는 Qwen3 모델의 텍스트 생성 과정에서 드러나는 feature를 탐색하고 조절하는 용도다.
공개 범위는 다음과 같다.
- Qwen3.5:
2B,9B,27B,35B용 residual SAE - Qwen3:
1.7B,8B,30B용 residual SAE - 각 체크포인트는
W32K,W64K,W80K,W128K와L0_50,L0_100변형으로 제공됨
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.