LM Studio, MTP 지원 추가

LM Studio finally added support for MTP Speculative Decoding

·2026.05.20 12:10

핵심 내용

LM Studio가 0.4.14 Beta에서 MTP speculative decoding을 지원했다.

1 / 2

LM Studio가 **0.4.14 Build 2 (Beta)**에서 MTP Speculative Decoding을 지원했다.

사용하려면 llama.cpp engine 2.15.0으로 맞춘 뒤, 모델을 불러오기 전에 Manually choose model load parameters를 선택하고 MTP를 직접 활성화해야 한다. 기본값으로는 꺼져 있다.

즉, 로컬 추론에서 speculative decoding을 시험할 수 있게 됐지만, 아직은 베타 기능이며 수동 설정이 필요하다.

이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.

AI 처리 방식을 확인하거나, 요약 오류와 출처 표기 문제, 삭제 요청을 문의 · 건의로 알려주세요.