LM Studio, MTP 지원 추가
LM Studio finally added support for MTP Speculative Decoding
·2026.05.20 12:10
LM Studio가 0.4.14 Beta에서 MTP speculative decoding을 지원했다.
LM Studio가 **0.4.14 Build 2 (Beta)**에서 MTP Speculative Decoding을 지원했다.
사용하려면 llama.cpp engine 2.15.0으로 맞춘 뒤, 모델을 불러오기 전에 Manually choose model load parameters를 선택하고 MTP를 직접 활성화해야 한다. 기본값으로는 꺼져 있다.
즉, 로컬 추론에서 speculative decoding을 시험할 수 있게 됐지만, 아직은 베타 기능이며 수동 설정이 필요하다.
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.