#flash-attn와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
llama.cpp에 Mistral Small 4용 DKQ=320/DV=256 flash-attn CUDA 지원이 추가됐다.
16GB Mac M4에서 Qwen 35B-A3B 상시 구동은 SSD가 먼저 병목이 됐다.