#prefill와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
PFlash가 RTX 3090에서 128K prefill 시간을 llama.cpp 대비 10배 줄였다.
HFQ4 prefill에 opt-in MMQ를 붙여 Strix Halo 속도가 3배 이상 빨라졌다.
LLM 추론의 핵심 단계인 Prefill과 Decode의 메커니즘과 주요 성능 지표를 설명한다.
AI Briefing