1M 컨텍스트 지원 Inkling 2 Mini, 32개 벤치마크에서 Qwen3.8-27B 능가

Welcome Inkling 2 Mini, Cutting-edge Performance for your Local Setup

·2026.11.20 09:00

핵심 내용

Inkling 2 Mini가 Qwen3.8-27B를 32개 벤치마크에서 능가하며 SOTA 성능을 입증했다

1 / 8

자세히 보기

  • Thinking Machines Lab이 2026년 11월 20일 로컬 AI 환경에 최적화된 멀티모달 MoE 모델 Inkling 2 Mini를 출시함
  • 물리 파라미터 26B, 토큰당 활성 파라미터 3B, 1M 토큰 컨텍스트 윈도우를 지원함
  • Artificial Analysis Intelligence Index v5에서 동급 SOTA 성능을 기록하며 Qwen3.8-27B, Gemma 4 31B, Nemotron 3.5 Super VL을 48개 벤치마크 중 32개에서 능가함
  • Looped Transformer 아키텍처를 적용하여 중간 12개 레이어를 3회 반복함으로써 물리 24개 레이어로 논리 48개 레이어를 구성함
  • NVFP4와 MXFP8 혼합 정밀도 포맷을 지원하고 추측적 디코딩을 위한 DSpark 드래프터를 포함하여 속도 향상에 기여함
  • Transformers, Llama App(llama.cpp), MLX, SGLang에 대한 Day 0 지원을 제공하며 NVIDIA B300과 Apple M4 Max 하드웨어에 특화된 최적화를 적용함

이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.

AI 처리 방식을 확인하거나, 요약 오류와 출처 표기 문제, 삭제 요청을 문의 · 건의로 알려주세요.