AI BriefingvLLM, Mistral 3.5 지원
Mistral-Medium 3.5 (128B) spotted ?
·2026.04.29 05:00
핵심 내용
vLLM PR에 Mistral-Medium 3.5 128B 지원 코드가 추가됐다.
자세히 보기
2026년 4월 28일 병합된 vLLM PR #41024에서 EagleMistralForCausalLM 지원이 추가됐다.
tests/models/registry.py에 mistralai/Mistral-Medium-3.5-128B와 mistralai/Mistral-Medium-3.5-128B-EAGLE 항목이 새로 등록됐다.- 해당 항목은
is_available_online=False로 등록됐다. - 새 파일
vllm/model_executor/models/mistral_eagle.py는EagleMistralModel,EagleMistralDecoderLayer,EagleMistralForCausalLM을 정의해 Mistral 계열 speculative decoding 경로를 구현한다. - 같은 PR에는 Mistral-Large-3-675B-Instruct-2512와 그 EAGLE 변형도 함께 들어갔다.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
