AI Briefing#dspark
#dspark와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#dspark와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
추측 디코딩은 연산량을 늘려 유휴 컴퓨트를 활용함으로써 LLM 추론을 가속화한다.
llama.cpp 오픈소스 프로젝트에 DSpark 기반의 추측 디코딩(Speculative Decoding) 기능이 추가되었습니다.
DeepSeek가 LLM의 응답 속도를 획기적으로 개선하는 추측적 디코딩 프레임워크 DSpark를 MIT 라이선스로 공개했다.
DSpark가 병렬 드래프터의 수락률 급감 문제를 해결하기 위해 준자기회귀 생성과 신뢰도 스케줄링을 결합한 추측 디코딩 프레임워크를 공개했다.