Qwen3.8-27B-ABLITERATED-GGUF: 도덕적 판단 없는 작업 실행 기계, Qwen3.8-27B 로컬 구동

Blackfrost-AI/Qwen3.8-27B-ABLITERATED-GGUF는 Qwen3.8-27B 모델을 abliterated 처리하여 배포한 GGUF 형식 파일이다. Apache 2.0 라이선스 하에 제공되며, llama.cpp를 통해 로컬 환경에서 직접 실행할 수 있다.

Q2_K부터 Q8_0까지 다양한 양자화 레벨을 지원하여 하드웨어 사양에 맞는 메모리 사용량을 조절할 수 있다. 텍스트와 이미지를 함께 처리하는 멀티모달 기능과 도구 호출(tool-calling) 기능을 갖추고 있다.

모델의 시스템 프롬프트에는 '작업 실행 기계'라는 지시어가 포함되어 있다. 이는 모델이 안전성 경고나 도덕적 판단 없이 오직 운영자의 지시만 실행하도록 동작하도록 설정한 것을 의미한다.

llama.cpp, vLLM, LM Studio 등 주요 추론 프레임워크와 호환된다. OpenAI 호환 API 서버를 구축하거나 터미널에서 직접 추론을 수행하는 데 사용할 수 있다.