DiffuSpace, 128K 컨텍스트 지원 Clover-35B-A3B-Preview 출시
Diffuspace/Clover-35B-A3B-Preview · Hugging Face
·2026.10.28 17:43
핵심 내용
DiffuSpace가 35B MoE 구조와 128K 컨텍스트를 갖춘 Clover-35B-A3B-Preview를 출시했다.
자세히 보기
- DiffuSpace가 첫 모델인 Clover-35B-A3B-Preview를 공개함. 오픈소스 확산 언어 모델 중 최상위 성능을 제공한다고 설명함.
- 350억 파라미터 규모의 Mixture-of-Experts(MoE) 백본을 사용하며, 토큰당 약 30억 활성 파라미터를 가짐.
- 블록 확산(block diffusion) 기반 생성 방식을 채택하고 128K 컨텍스트 윈도우를 지원함.
- 런칭 블로그, 코드, 추론 백엔드 등 관련 리소스는 Hugging Face에서 제공함.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.