Qwen-Scope 공식 SAE 공개
Qwen-Scope: Official Sparse Autoencoders (SAEs) for Qwen 3.5 models
·2026.04.30 18:40
Qwen이 Qwen 3.5와 Qwen3용 공식 Sparse Autoencoders를 공개했다.
Qwen-Scope 컬렉션에서 Qwen 3.5와 Qwen3 계열용 공식 Sparse Autoencoders(SAEs) 를 공개했다.
함께 올라온 QwenScope Space는 Qwen3 모델의 텍스트 생성 과정에서 드러나는 feature를 탐색하고 조절하는 용도다.
공개 범위는 다음과 같다.
- Qwen3.5:
2B,9B,27B,35B용 residual SAE - Qwen3:
1.7B,8B,30B용 residual SAE - 각 체크포인트는
W32K,W64K,W80K,W128K와L0_50,L0_100변형으로 제공됨
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.