AI BriefingSparkLLM, 9B급 성능 갖춘 4B 온디바이스 모델 Spark-X2.6-4B 공개
·2026.10.21 09:00
핵심 내용
Spark-X2.6-4B가 9B급 성능을 내며 추론 예산을 제어할 수 있다
자세히 보기
- SparkLLM 팀이 Spark-X2.5-4B의 후속작인 4B 파라미터 온디바이스 언어 모델 Spark-X2.6-4B를 출시함
- 유사한 크기의 오픈소스 모델 중 최상위 성능을 기록하며, 에이전트 워크플로우, 코딩, 추론 분야에서 약 9B 파라미터 모델과 동등하거나 우수한 성능을 발휘함
- 추론 품질, 지연 시간, 추론 비용을 동적으로 조절하기 위해 none, low, high의 세 가지 설정을 갖춘 Controllable Thinking Budget 기능을 제공함
- Transformers, SGLang, vLLM, MLX, llama.cpp, Ollama, LM Studio 등 다양한 프레임워크 배포를 지원하며, NVIDIA GPU와 Ascend NPU에 대한 특정 이미지 태그 및 버전 요구사항을 명시함
- Apache 2.0 라이선스로 배포되며 BF16 텐서 타입을 사용하고, 베이스 모델은 XHToken/Spark-X2.6-4B-Base로 지정됨
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.