1M 컨텍스트 지원 Inkling 2 Mini, 32개 벤치마크에서 Qwen3.8-27B 능가
Welcome Inkling 2 Mini, Cutting-edge Performance for your Local Setup
·2026.11.20 09:00
핵심 내용
Inkling 2 Mini가 Qwen3.8-27B를 32개 벤치마크에서 능가하며 SOTA 성능을 입증했다
자세히 보기
- Thinking Machines Lab이 2026년 11월 20일 로컬 AI 환경에 최적화된 멀티모달 MoE 모델 Inkling 2 Mini를 출시함
- 물리 파라미터 26B, 토큰당 활성 파라미터 3B, 1M 토큰 컨텍스트 윈도우를 지원함
- Artificial Analysis Intelligence Index v5에서 동급 SOTA 성능을 기록하며 Qwen3.8-27B, Gemma 4 31B, Nemotron 3.5 Super VL을 48개 벤치마크 중 32개에서 능가함
- Looped Transformer 아키텍처를 적용하여 중간 12개 레이어를 3회 반복함으로써 물리 24개 레이어로 논리 48개 레이어를 구성함
- NVFP4와 MXFP8 혼합 정밀도 포맷을 지원하고 추측적 디코딩을 위한 DSpark 드래프터를 포함하여 속도 향상에 기여함
- Transformers, Llama App(llama.cpp), MLX, SGLang에 대한 Day 0 지원을 제공하며 NVIDIA B300과 Apple M4 Max 하드웨어에 특화된 최적화를 적용함
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.