#multi-token-prediction

#multi-token-prediction와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.

Soft-MTP, 노이즈 잔차 제거로 MTP 학습 효율성 및 스펙ulative decoding 속도 향상

Soft-MTP가 노이즈 그라디언트를 제거해 퍼플렉시티를 낮추고 스펙ulative decoding을 가속했다

·1·2026.11.04 15시

Soft-MTP, 코드 1줄로 MTP 성능 향상

Soft-MTP가 코드 1줄 수정으로 MTP 학습 효율과 정확도를 개선했다.

·1·2026.10.30 19시

llama.cpp, 동적 MTP 최적화 기능 제안

llama.cpp에 출력 복잡도에 따라 MTP 깊이를 동적으로 조절하는 adaptive MTP 기능이 제안되었다.

·2·2026.08.18 03시

LG AI Research의 K-EXAONE

LG AI Research가 효율성과 성능을 극대화한 대규모 AI 모델 K-EXAONE을 개발했다.

·1·2026.07.16 09시

LG AI 연구원, K-EXAONE 소개

LG AI연구원이 효율성과 추론 능력을 극대화한 대규모 AI 모델 K-EXAONE을 개발했다.

·1·2026.07.16 09시

LG AI Research의 첫 공개 Vision Language Model, EXAONE 4.5

LG AI Research가 텍스트와 이미지를 동시에 이해하는 멀티모달 모델 EXAONE 4.5를 오픈 웨이트 방식으로 공개했다.

·2·2026.07.16 09시

Multi-Token Prediction을 적용하여 Pixel 기기에서 Gemini Nano 모델 가속화하기

Google이 기존 Gemini Nano v3 모델에 Multi-Token Prediction을 결합하여 모바일 환경의 추론 병목 현상을 해결했다.

·2·2026.06.26 09시

llama.cpp, StepFun 3.5 MTP 지원

llama.cpp 오픈소스 프로젝트에 StepFun 3.5 MTP 모델 지원을 위한 Pull Request가 제출되었다.

·2026.06.03 00시

exo, Qwen3.6용 네이티브 MTP 지원 추가

분산 추론 도구 exo에 Qwen3.6 MLX 모델을 위한 네이티브 MTP 지원이 추가되었습니다.

·2026.05.23 22시

Google AI Edge Gallery 업데이트: Gemma 4 및 Pixel TPU 지원

Google AI Edge Gallery가 Gemma 4의 Multi-Token Prediction과 Pixel TPU 지원을 포함한 최신 업데이트를 공개했다.

·2·2026.05.20 06시

llama.cpp b9180 MTP 지원

llama.cpp b9180 릴리스에 MTP 지원과 부분 롤백이 추가됐다.

·2026.05.17 02시

llama.cpp, MTP 지원 추가

llama.cpp 프로젝트에 MTP(Multi-Token Prediction) 지원 기능이 공식 병합되었습니다.

·1·2026.05.16 21시

llama.cpp MTP 지원 추가

llama.cpp에 MTP 지원이 추가되고 Qwen3.6 MTP GGUF가 공개됐다.

·1·2026.05.16 21시

Gemma 4용 DFlash 공개

z-lab이 Gemma 4용 DFlash drafter 모델과 논문을 공개했다.

·1·2026.05.08 23시

Gemma 4 MTP 드래프터 공개

Google이 Gemma 4용 MTP 드래프터를 공개해 최대 3배 추론 속도 향상을 제시했다.

·1·2026.05.07 07시

Gemma 4 가속하기: 다중 토큰 예측 drafter로 더 빠른 추론

Google이 Gemma 4용 MTP drafter를 공개해 추론 속도를 최대 3배 높였다.

·2·2026.05.06 10시

Gemma 4 가속화: multi-token prediction drafters로 더 빠른 inference

Google이 Gemma 4용 MTP drafters를 공개해 inference 속도를 최대 3배 높였다.

·2026.05.06 06시

llama.cpp MTP 지원 베타 공개

llama.cpp가 MTP(Multi Token Prediction) 지원을 베타로 추가했다.

·2026.05.04 21시

IK_LLAMA의 Qwen MTP 지원

IK_LLAMA가 Qwen3.5 MTP 지원을 추가했고, MTP 보존 GGUF가 필요하다.

·2026.04.29 23시