AI Briefing#mlx
#mlx와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#mlx와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
KQuant가 Qwen 모델 KL 발산을 최대 3.7배 줄이고 M5 Pro 추론 속도를 높였다
mlxVS가 Apple Silicon에서 CAGRA로 69,500 queries/s 성능을 달성했다
Apple 음성 API를 재구현해 오픈 모델을 사용할 수 있게 하는 Swift 패키지 AnySpeechRecognizer와 결정 모델용 AnyDecisionModel이 공개됐다.
Private Mind 앱이 LFM3 모델 지원으로 iPhone 16 Pro에서 초당 40 토큰 처리 속도를 달성했다
Hugging Face가 Apple 플랫폼용 로컬 음성 및 의사결정 AI Swift 패키지를 출시했다.
mlx-decision이 Apple Silicon에서 로컬 추론과 파인튜닝을 지원한다
Flama 2.0이 OpenAI, Anthropic, Ollama 프로토콜을 동시에 지원하는 LLM 아키텍처 논문을 공개했다.
Underdog이 MLX보다 모든 측정 항목에서 빠르고, 특히 편집 작업에서 최대 4.5배의 성능을 내는 모델 특화 추론 엔진 'Husky'를 공개했다.
Hugging Face가 oMLX 개발자 Jun Kim을 영입해 Apple Silicon 기반 MLX 생태계 지원과 로컬 AI 인프라를 강화한다.
클라우드 AI 에이전트가 로컬의 Piper를 제어해 코드 생성 비용을 절감하는 오픈소스 도구 공개
NVIDIA Cosmos3 64B 모델의 INT4 양자화 버전이 CUDA와 MLX용으로 공개되어 로컬 실행이 가능해졌다.
Qwen3.8-27B의 검열을 제거한 abliterated 버전을 애플 실리콘용 MLX 형식으로 공개했다.
Qwen3.8-27B의 안전 정렬을 제거한 MLX 양자화 버전을 Apple Silicon용으로 공개했다.
Apple Silicon의 MLX를 활용하여 100% 온디바이스로 작동하는 개인정보 보호 중심의 회의록 앱 Logue가 오픈소스로 공개되었다.
React Native 앱에서 Gemma 4를 오프라인으로 실행할 수 있는 ExecuTorch 통합 기능이 공개되었습니다.
Apple이 연속 배치(Continuous Batching)와 분산 추론을 지원하는 MLX LM Server를 출시했다.
MLX의 한계를 보완하여 Apple Silicon에서 W8A8 활성화 양자화를 지원하는 SDK 'Cider'가 공개되었다.
Cohere의 218B MoE 모델인 Command A+를 Apple Silicon에서 구동할 수 있는 MLX 포트가 구현되었습니다.
Mac 환경에서 Hugging Face 모델을 탐색하고 Ollama, MLX 등으로 관리하는 메뉴 바 앱이 출시되었다.
Apple Silicon에서 Ollama보다 최대 4.2배 빠른 추론을 지원하는 MLX 기반 로컬 AI 엔진입니다.