AI Briefing#parallel-decoding
#parallel-decoding와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#parallel-decoding와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
NVIDIA VFlash가 로봇 및 자율주행 궤적 예측 시 지연 시간을 최대 5.1배 단축했다.
Diffusion 언어 모델은 병렬 생성이 가능하지만 긴 문맥과 배치 처리에서 한계를 보였다.
Parallel Decoding Distillation은 여러 디노이징 단계를 한 번에 예측하여 비디오 생성 속도와 다양성을 개선한다.
PaddlePaddle이 계층적 병렬 디코딩 기반 1B 문서 파싱 모델 HPD-Parsing을 공개해 OmniDocBench v1.6에서 94.91%로 최고 성능을 기록했다.
확산 기반 언어 모델(BD-LM)의 병렬 디코딩 성능을 높이기 위한 Multi-Block 방식의 MBD-LM을 제안한다.
NVIDIA가 기존 AR 모델 대비 6배 빠른 추론 속도를 제공하는 Diffusion 언어 모델 패밀리를 공개했다.