WRITER, Palmyra-mini 소형 모델 공개

WRITER가 1.5B~1.7B 파라미터 규모의 경량 모델인 Palmyra-mini 제품군 3종을 출시했다. 이 모델들은 효율적인 추론을 위해 설계되었으며, 특히 Chain of Thought(CoT) 방식을 적용하여 추론 능력을 강화했다.

주요 모델 라인업:

• palmyra-mini: 다양한 생성 작업에 적합한 범용 베이스 모델.
• palmyra-mini-thinking-a: 복잡한 논리적 과제 해결에 최적화된 모델로, **GSM8K에서 82.87%**의 높은 점수를 기록했다.
• palmyra-mini-thinking-b: 수학적 방정식 및 고난도 추론에 특화된 모델로, **AMC23에서 92.5%**를 달성했다.

기술적 특징 및 지원:

• 모든 모델은 Qwen 아키텍처를 기반으로 하여 vLLM, SGLang, TGI 등 주요 추론 프레임워크에서 즉시 실행 가능하다.
• GGUF 및 MLX 양자화 버전을 함께 제공하여 다양한 하드웨어 환경에서의 효율적인 배포를 지원한다.