#gguf와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
RTX 5060 Ti 16GB에서 Qwen3.6-35B-A3B가 prebuilt 대비 약 10% 빨라졌다.
Qwen3.6-35B-A3B GGUF 벤치마크에서 Unsloth 양자화가 KLD 대비 용량 효율이 가장 좋다고 주장한다.
Qwen3.6-35B-A3B 무검열 Aggressive 버전과 K_P GGUF quants가 공개됐다.
24GB VRAM 환경에서 GGUF 양자화 모델들의 MMLU 점수를 비교했다.
RTX 4060 Ti 16GB에서 Qwen3.5-35B를 64k로 40~60 tok/s 구동한 튜닝 기록.
MiniMax M2.7 GGUF 일부에서 perplexity NaN 원인을 조사하고 수정했다.
llama.cpp 서버에 여러 모델을 재시작 없이 동적으로 로드 및 교체할 수 있는 라우터 모드가 추가되었다.
AI Briefing