#local-inference

#local-inference와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.

RTX 3090에서 Qwen3.5-27B DFlash+DDTree로 최대 207 tok/s를 기록.

·1·2026.04.21 03시

M5pro 64GB에서 Qwen 3.5 122B가 IQ2-m 기준으로 꽤 잘 돌아갔다.

·2026.04.14 03시

lazy expert loading과 TurboQuant으로 120B LLM의 초저메모리 실행을 노린다.

·1·2026.04.13 04시

Waypoint-1.5는 720p/60FPS와 360p 티어로 소비자 GPU용 실시간 세계모델을 확장했다.

·2026.04.09 09시

무신사가 GPT-4o-mini 대신 TranslateGemma 27B(Q6)로 번역 품질과 비용을 점검했다.

·1·2026.03.16 07시