AI Briefing#apple-silicon
#apple-silicon와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#apple-silicon와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
mlxVS가 Apple Silicon에서 CAGRA로 69,500 queries/s 성능을 달성했다
Apple Silicon 전용 Rust 추론 엔진 uzu가 M5 Max에서 142.3 tok/s 속도를 기록했다.
Hugging Face가 Apple 플랫폼용 로컬 음성 및 의사결정 AI Swift 패키지를 출시했다.
mlx-decision이 Apple Silicon에서 로컬 추론과 파인튜닝을 지원한다
PyTorch 2.15가 Mac GPU MoE 디코딩을 5~6.5배 향상시키고 FP8을 지원한다.
PyTorch 2.15가 FP8 지원과 Metal 최적화로 Mac에서 MoE 디코딩 속도를 5~6.5배 높였다
Nace.ai가 Apple Silicon용 오픈소스 추론 엔진 Kapitsa를 출시했다.
Google의 EmbeddingGemma 2 기반 도구가 M3 MacBook Air에서 1시간 오디오를 12.6초 만에 전사한다.
Apple이 유휴 macOS 기기의 GPU를 모아 대규모 ML 추론을 수행하는 Minions를 제안했다.
Larmor가 MIT 라이선스로 공개되어 Apple Silicon에서 로컬 모델로 AI 에이전트 음성 제어를 지원한다.
rGPU는 로컬 앱으로 원격 NVIDIA GPU 연산을 실행하는 오픈소스 PyTorch 도구다.
isolate가 macOS 27+에서 AI 코딩 에이전트를 격리된 Linux VM에서 실행하며 API 키를 호스트에 보관한다.
Jared Palmer가 Apache-2.0 라이선스의 오픈소스 의사결정 모델 Kev 1.0을 공개했다.
Hugging Face Transformers가 Apple Silicon Mac에서 llama.cpp ggml Metal 커널을 활용해 GGUF 모델을 역양자화 없이 압축 상태로 직접 추론하는 기능을 공개했다.
Liquid AI가 VLM 모델 LFM2.5-VL-3B의 추측 디코딩을 위한 초안 모델 LFM2.5-VL-3B-DSpark를 공개했으며, Apple M5 Max에서 디코딩 속도를 최대 3.13배까지 향상시켰다.
Underdog이 MLX보다 모든 측정 항목에서 빠르고, 특히 편집 작업에서 최대 4.5배의 성능을 내는 모델 특화 추론 엔진 'Husky'를 공개했다.
Jared Palmer가 Qwen3.5 기반의 경량 의사결정 모델 Kev를 공개하며, Yes/No·선택지·평점 동시 처리와 Apple Silicon 지원을 제시했다.
Hugging Face Transformers가 llama.cpp의 GGUF 포맷을 직접 실행할 수 있게 되어 Apple Silicon에서 로컬 추론이 간편해졌다.
Hugging Face가 oMLX 개발자 Jun Kim을 영입해 Apple Silicon 기반 MLX 생태계 지원과 로컬 AI 인프라를 강화한다.
Inco AI가 모델별 전용 커널과 초안 모델을 적용한 Apple Silicon 추론 엔진 Splash를 공개했다.
Edge0가 SSD 전문가 스트리밍 기술로 35B MoE 모델을 3GiB 메모리로 실행하는 추론 프레임워크를 공개했다.