AI BriefingApple Silicon에서 CAGRA로 69,500 queries/s 달성한 mlxVS
mlxVS: cuVS-style GPU nearest-neighbor search (NN-Descent, CAGRA) on Apple Silicon with MLX [P]
·2026.11.12 05:46
핵심 내용
mlxVS가 Apple Silicon에서 CAGRA로 69,500 queries/s 성능을 달성했다
자세히 보기
- Apache-2.0 오픈소스 라이브러리 mlxVS가 MLX 프레임워크를 활용해 NVIDIA의 cuVS GPU 근접 이웃 탐색 알고리즘을 Apple Silicon에 이식함
- SIFT1M(985k x 128) 데이터셋에서 MacBook Pro M3 Pro 환경으로 mlxVS CAGRA가 recall@10 0.976에서 69,500 queries/s를 기록하며 CPU 기반 hnswlib의 32,200 queries/s를 상회함
- CAGRA 그래프 가지치기 적용 시 degree 32, itopk 128 조건에서 recall@10이 0.939에서 0.993로 향상되고 검색 속도는 유사하게 유지됨
- NN-Descent 로컬 조인에는 FP16 SIMD-group 행렬 곱을 사용하는 Metal 커널을, 그래프 탐색에는 방문 집합을 16 KB 이하로 유지해 Metal의 32 KB threadgroup 메모리 검증을 통과하는 단일 CTA 설계를 적용함
- 현재 정적 인덱스만 지원하며 삽입 및 삭제 기능이 없고 float32 데이터가 필요하며 벤치마크는 단일 쿼리 지연 시간이 아닌 배치 쿼리 기반으로 수행됨
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
