DeepSeek, LLM 추론 속도를 최대 85%까지 높이는 새로운 프레임워크 'DSpark' 오픈 소스 공개

DeepSeek가 모델의 성능 저하 없이 LLM의 응답 속도를 높여주는 새로운 프레임워크인 DSpark를 오픈 소스로 출시했다. MIT 라이선스로 배포되는 이 시스템은 추측적 디코딩(Speculative Decoding) 기술을 활용하여 모델이 다음 단어를 예측하는 과정을 최적화한다.

DSpark는 일종의 '정찰병' 역할을 하는 모듈이 앞서 나갈 경로를 미리 예측하면, 메인 모델이 이를 빠르게 검증하는 방식으로 작동한다. 예측이 정확할수록 모델은 더 빠르게 텍스트를 생성하며, 예측이 부정확할 경우 불필요한 연산을 줄여 효율성을 유지한다.

이번 릴리스에는 기술 논문과 함께 모델 체크포인트, 그리고 추측적 디코딩 시스템의 학습 및 평가를 위한 코드베이스인 DeepSpec이 포함되었다. 이 기술은 DeepSeek의 최신 모델인 DeepSeek-V4-Flash와 DeepSeek-V4-Pro에 적용되어 다음과 같은 성능 향상을 입증했다.

• DeepSeek-V4-Flash: 기존 MTP-1 대비 사용자당 생성 속도 60%~85% 향상
• DeepSeek-V4-Pro: 기존 MTP-1 대비 사용자당 생성 속도 57%~78% 향상

DSpark는 DeepSeek 모델에만 국한되지 않고, Alibaba의 Qwen이나 Google의 Gemma와 같은 다른 오픈 웨이트 모델군에도 적용 가능하다. 이는 기업이 자체 모델을 운영할 때 DSpark 방식의 드래프트 모듈을 직접 학습시켜 추론 비용을 절감하고 사용자 경험을 개선할 수 있음을 의미한다.