Xing4.0-29B-A4B-GGUF: 262K 컨텍스트 지원, 29B MoE 모델의 GGUF 양자화

중국 텔레콤의 Xing4.0 29B MoE 모델이 GGUF 형식으로 공개됐다. 총 파라미터 29B 중 활성 파라미터는 4B에 불과해, 로컬 환경에서 효율적인 추론이 가능하다.

IQ2부터 Q8, f16까지 다양한 양자화 버전이 제공된다. 262,144 토큰의 긴 컨텍스트 윈도우를 지원하며, 도구 호출과 추론 모드까지 기본 템플릿에 포함됐다.

Apache 2.0 라이선스로 상업적 활용이 허용된다. llama.cpp 등 GGUF 호환 환경에서 바로 실행할 수 있어, 고사양 GPU 없이도 대규모 모델의 성능을 경험할 수 있다.