DSpark: 준자기회귀 생성과 신뢰도 스케줄링 결합한 추측 디코딩 프레임워크 공개

·2026.06.28 09:35

핵심 내용

DSpark가 병렬 드래프터의 수락률 급감 문제를 해결하기 위해 준자기회귀 생성과 신뢰도 스케줄링을 결합한 추측 디코딩 프레임워크를 공개했다.

자세히 보기

DSpark는 LLM 추론 가속화를 위해 준자기회귀(semi-autoregressive) 생성과 신뢰도 스케줄링을 결합한 추측 디코딩(speculative decoding) 프레임워크다.

기존 병렬 드래프터(parallel drafter)는 한 번의 순전파로 긴 토큰 블록을 제안할 수 있지만, 토큰 간 의존성이 없어 후반부에서 수락률 급감(acceptance decay) 문제가 발생한다. DSpark는 이러한 한계를 극복하기 위해 신뢰도 기반의 스케줄링 기법을 도입해 추론 효율을 높인다.

llm speculative-decoding ai-research inference-acceleration dspark

원문 읽기Threads로 공유

이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.

AI 처리 방식을 확인하거나, 요약 오류와 출처 표기 문제, 삭제 요청을 문의 · 건의로 알려주세요.