exo, Qwen3.6용 네이티브 MTP 지원 추가

분산 추론 클러스터 도구인 exo에 Qwen3.6 스타일의 MLX 체크포인트를 위한 네이티브 멀티 토큰 예측(MTP) 지원이 추가되었습니다.

주요 성능 및 특징은 다음과 같습니다:

• 27B 모델 성능 향상: MTP를 활성화(K=2, K=3)할 경우, 기존 대비 약 2배(1.96x~1.97x) 빠른 추론 속도를 기록했습니다.
• 정확도 검증: MTP 헤드가 생성한 후보 토큰을 타겟 모델이 검증하는 방식을 채택하여, Greedy decoding 시 기존 방식과 동일한 결과를 보장합니다.
• 모델별 최적 설정: 27B 모델은 높은 K값이 유리했으나, 35B-A3B(MoE) 모델은 검증 및 캐시 비용으로 인해 K=1 설정이 가장 효율적이었습니다.

현재 네이티브 MTP 기능은 단일 노드(single-node) 환경에서만 지원되며, 모델이 여러 기기에 분산되는 경우에는 기존 경로로 자동 전환됩니다.