Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF: 검열 제거 27B 멀티모달, MTP로 로컬 추론 속도 극대화

Qwen3.8 아키텍처의 27B 매개변수 모델을 GGUF 포맷으로 변환해 배포한 저장소다. 텍스트와 이미지 입력을 모두 처리하는 멀티모달 구조를 가지며, 영어와 중국어는 물론 다국어 환경에서도 동작한다. Apache-2.0 라이선스로 공개되어 있어 상용 및 비상용 프로젝트에 자유롭게 활용할 수 있다.

일반적인 양자화 모델과 달리 'Uncensored' 및 'Aggressive' 변형으로 제공되어 콘텐츠 필터링이 제거된 상태다. 또한 MTP(Multi-Token Prediction)와 FastMTP 기술을 적용해 추론 속도를 높이는 것이 특징이다. llama.cpp, vLLM, Ollama 등 주요 로컬 추론 프레임워크에서 즉시 사용할 수 있도록 구성했다.

IQ2_M부터 Q8_K_P까지 다양한 양자화 레벨의 파일이 포함되어 있어 하드웨어 사양에 맞춰 메모리 사용량을 조절할 수 있다. BF16 정밀도의 mmproj 파일도 함께 제공되어 비전 처리 성능을 유지한다. 32K 컨텍스트 윈도우를 지원하는 FastMTP 전용 파일도 포함되어 있어 긴 문서나 대화 처리에 적합하다.

클라우드 API 의존도를 줄이고 로컬 환경에서 높은 수준의 응답을 원하는 개발자에게 적합하다. 특히 검열이 없는 자유로운 생성이 필요하거나, MTP 기반의 빠른 추론 성능이 요구되는 에이전트 및 챗봇 구축 시 활용 가치가 크다. 304개의 좋아요와 활발한 커뮤니티 토론을 통해 안정성이 검증된 상태다.