#mlx
#mlx와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#mlx와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Apple Silicon에서 MTP 헤드를 활용해 LLM 추론 속도를 최대 2.24배 높이는 MTPLX 엔진이 공개되었다.
Mac Mini M4 Pro 64GB에서 14B dense 모델은 16.2 t/s, Qwen3.6 35B NVFP4는 69.8 t/s를 기록했다.
Wasm 메모리를 GPU와 공유해 Apple Silicon에서 추론을 제로카피로 돌린다.
균일 quantization이 Qwen3.5의 민감한 레이어를 망가뜨린다.
PrismML이 1.58비트 ternary weights로 8B·4B·1.7B LLM인 Ternary Bonsai를 공개했다.
Gemma 4 26B를 MLX 4-bit로 최적화한 빠른 비검열 로컬 모델.