AI Briefingllama.cpp, Domyn-Small-v1.0 지원 머지
support for domyn/Domyn-Small-v1.0 has been merged into llama.cpp
·2026.10.22 22:00
핵심 내용
Domyn-Small-v1.0이 llama.cpp에 머지되어 로컬 추론이 가능해졌다.
자세히 보기
- Domyn/Domyn-Small-v1.0 지원이 llama.cpp에 머지되어, 10B 파라미터 오픈웨이트 모델의 로컬 추론 가능함
- 주요 7-10B 경쟁 모델과 동등한 추론 정확도를 유지하면서 추론 토큰 사용량이 약 2~4배 적음
- Qwen3.5-9B 토큰 예산의 약 32%, OLMo-3-7B-Think의 약 35% 수준으로 토큰 소모함
- thinking on/off 듀얼 모드 추론, YaRN을 통해 131k까지 확장 가능한 네이티브 32k 컨텍스트, BFCL V3 싱글턴 벤치마크에서 Non-Live 75.9점과 Live 68.3점을 기록한 1급(tool calling) 지원 기능 포함함
- Domyn S.p.A.가 개발했으며, Italia 10B에서 초기화, 256,000 토큰 SentencePiece BPE 어휘 사용, MIT 라이선스로 공개함
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
