Clover-35B-A3B-Preview: Qwen3.6 기반 35B MoE, 텍스트 전용 추론에 최적화
Diffuspace/Clover-35B-A3B-Preview
프로젝트 소개
Clover-35B-A3B-Preview는 Qwen3.6-35B-A3B를 기반으로 파인튜닝한 텍스트 생성 모델이다. 총 35B 파라미터 중 3B만 활성으로 사용하는 Mixture-of-Experts 구조를 채택해 추론 효율성을 높였다. Apache-2.0 라이선스로 공개되어 있으며, 텍스트 전용 콘텐츠 처리에 맞춰 설계되었다.
이 모델은 이미지나 멀티모달 입력을 지원하지 않으며 텍스트만 처리하도록 제한되어 있다. Chat template을 통해 도구 호출(tool calling)과 추론(reasoning) 과정을 명확히 분리해 관리할 수 있다. preserve_thinking 옵션을 조절하면 추론 내용을 유지하거나 마지막 사용자 쿼리 이후에만 보존하도록 설정할 수 있다.
Transformers, vLLM, SGLang 등 주요 추론 프레임워크와 호환된다. vLLM 서버를 통해 OpenAI 호환 API를 제공하므로 기존 LLM 애플리케이션에 쉽게 통합할 수 있다. BF16 정밀도로 저장되어 있으며, sharded 파일 형식으로 배포되어 대규모 GPU 환경에서의 로딩을 지원한다.
텍스트 기반 대화형 AI나 도구 호출이 필요한 에이전트 시스템에 적합하다. 멀티모달 기능이 불필요한 순수 텍스트 작업에서 경량화된 추론 성능을 원하는 개발자에게 유용하다. Preview 버전이므로 최종 안정화 버전 이전의 실험적 용도로 접근하는 것이 적절하다.
Diffuspace/Clover-35B-A3B-Preview
원문에 등록된 설명이 없습니다.
text-generation
이 한국어 소개글은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.