추천Raon-1-mini-preview: 크래프톤 Raon-1 mini, 28B 파라미터 오픈소스 LLM

크래프톤이 공개한 Raon-1 mini는 텍스트 생성을 위한 오픈소스 LLM이다. 총 287억 개의 파라미터를 가지며, Apache 2.0 라이선스로 배포되어 상업적 활용이 가능하다. Hugging Face의 transformers 라이브러리에서 커스텀 코드를 통해 직접 로드할 수 있다.

1 / 2

모델은 ChatML 기반의 텍스트 전용 SFT 프로토콜을 사용한다. 시스템, 사용자, 어시스턴트, 도구 호출 등 다양한 역할을 처리하며, 추론 과정(reasoning)을 포함하거나 제외하도록 설정할 수 있다. 도구 호출 시 XML 태그 형식으로 함수명과 인자를 구조화하여 전달한다.

vLLM, SGLang, Docker Model Runner 등 주요 추론 엔진과 호환된다. OpenAI 호환 API를 통해 서버를 구축하고 요청을 보낼 수 있으며, llama.cpp, Ollama, LM Studio 등 로컬 앱에서도 양자화 버전으로 실행 가능하다. RTX 5090(32GB) 및 DGX Spark(GB10) 환경에서의 빠른 시작 가이드를 제공한다.

Hermes Agent, Pi, OpenCode 등 에이전틱 사용 사례를 지원한다. 텍스트 생성 작업뿐만 아니라 도구 호출을 통한 복잡한 작업 처리에도 적합하다. 1,177회 다운로드와 189개의 좋아요를 기록하며 커뮤니티에서 주목받고 있다.