Ternary-Bonsai-2-27B-gguf: 27B 매개변수 2비트로 압축, 로컬 실행 최적화

27B 매개변수를 2비트 양자화한 Ternary-Bonsai-2 모델이다. F16부터 PTQ1_0까지 다양한 GGUF 형식을 제공해 llama.cpp, Ollama, LM Studio 등 로컬 환경에서 바로 구동할 수 있다.

하이브리드 어텐션 구조를 채택해 메모리 효율을 높였다. CUDA와 Metal을 지원하므로 GPU가 제한적인 데스크톱이나 노트북에서도 추론이 가능하다. 텍스트 생성과 대화형 태스크에 특화되어 있다.

Apache 2.0 라이선스를 적용해 상업적 사용도 자유롭다. 총 파일 크기는 약 53GB에 달하지만, 2비트 양자화 덕분에 기존 대형 모델 대비 하드웨어 진입 장벽을 낮췄다.