AI Briefing#apple-silicon
#apple-silicon와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#apple-silicon와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
OpenRouter는 유사 모델 기준 Apple Silicon보다 비용은 1/3 수준이며 속도는 2배 더 빠르다.
Apple Silicon에서 Ollama보다 최대 4.2배 빠른 추론을 지원하는 MLX 기반 로컬 AI 엔진입니다.
Hugging Face 사용자 데이터를 분석한 결과, AI 빌더들은 연산 성능보다 VRAM 용량을 중시하는 경향을 보였다.
Apple Silicon 칩셋별 LLM 추론 성능, 전력 효율 및 MoE 모델 구동 성능에 대한 벤치마크 분석 결과가 공개되었다.
Apple M4/M5 및 A18 Pro 칩의 LLM 추론 성능과 전력 효율성 분석 결과가 공개되었습니다.
Apple Silicon에서 MTP 헤드를 활용해 LLM 추론 속도를 최대 2.24배 높이는 MTPLX 엔진이 공개되었다.
M2 MacBook Pro 32GB RAM에서 Qwen 3.6 27B의 처리 속도가 52,000토큰 컨텍스트에서 4t/s로 급락했다.
TRELLIS.2를 CUDA 없이 Apple Silicon에서 3D 생성하도록 포팅했다.
Wasm 메모리를 GPU와 공유해 Apple Silicon에서 추론을 제로카피로 돌린다.
유휴 Apple Silicon Mac을 활용해 비용을 70% 절감하는 분산형 AI 추론 네트워크 Darkbloom이 출시되었다.
PrismML이 1.58비트 ternary weights로 8B·4B·1.7B LLM인 Ternary Bonsai를 공개했다.
Gemma 4 26B를 MLX 4-bit로 최적화한 빠른 비검열 로컬 모델.