#awq와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
cyankiwi가 스케일과 양자화 범위를 공동 최적화하여 오차를 줄인 AWQ 4-bit 업데이트를 공개했다.
균일 quantization이 Qwen3.5의 민감한 레이어를 망가뜨린다.
3B·7B 오픈소스 SLM을 SFT+DPO로 특화해 상용 모델보다 높은 점수를 냈다.
8x MI50 32GB에서 MiniMax M2.7 AWQ를 피크 64 tok/s로 돌린 벤치다.
GX10 2대로 MiniMax M2.7 AWQ를 돌려 로컬 에이전트 코딩 스택을 완성했다.
저비트 추론은 메모리와 연산을 줄여 AI 모델을 더 빠르고 저렴하게 만든다.
AI Briefing