#vram-usage와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
llama.cpp가 MTP 비활성화 상태에서도 특정 아키텍처의 MTP 텐서를 기본 로드하도록 변경되어 VRAM 사용량이 증가합니다.