Lafa, Flow 기반 생성으로 2.54배 속도 달성

Lafa: 여러 토큰을 함께 생성하는 Flow 언어 모델

·2026.10.23 10:58

핵심 내용

블록 단위 Flow 생성과 AR 검증을 결합해 처리량을 2.54배 높였다.

1 / 3

UC Berkeley, Amazon, KAIST, CMU 공동 연구진이 Flow 기반 언어 모델 Lafa를 공개함
H100 1장에서 블록 크기 16 기준 AR SFT 7B 대비 처리량 2.54배 향상(100.2 tokens/s vs 39.5 tokens/s)
Flow Matching으로 블록 내 토큰을 동시 생성하고, Self-speculative Decoding으로 AR 예측과 일치하는 부분만 채택
Qwen2.5 0.5B/7B Instruct 및 Qwen3 8B Base 기반 체크포인트를 공식 저장소에 공개
현재 Greedy decoding만 지원하며, Sampling과 Beam search는 미지원 상태

이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.

AI 처리 방식을 확인하거나, 요약 오류와 출처 표기 문제, 삭제 요청을 문의 · 건의로 알려주세요.