AI Briefing#onnx-runtime
#onnx-runtime와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#onnx-runtime와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Hugging Face가 207개의 최적화된 WebGPU 커널과 로더 라이브러리를 공개해 브라우저 기반 AI 추론 성능을 평균 2.57배 개선했다.
Manticore Search가 ONNX Runtime 백엔드를 도입하여 임베딩 추론 속도를 기존 대비 평균 14배 향상시켰다.
Transformers.js v4가 WebGPU 백엔드를 도입하여 브라우저와 서버 환경에서 고성능 AI 모델 실행을 지원한다.
WebGPU 런타임 도입과 성능 최적화를 거친 Transformers.js v4가 NPM을 통해 공개되었습니다.
ONNX Runtime과 Microsoft Olive를 통해 SD Turbo 및 SDXL Turbo 모델의 추론 성능을 대폭 개선했다.
Hugging Face의 Optimum 라이브러리와 ONNX Runtime을 통합하여 트랜스포머 모델 학습 속도를 최대 130%까지 향상시켰다.
Hugging Face가 Transformers 모델의 추론 성능을 최적화하는 Optimum 라이브러리의 기능을 업데이트했다.
Hugging Face가 라이브러리 최적화와 하드웨어 맞춤형 컴파일을 통해 Transformer 추론 속도를 100배 향상시킨 기술적 접근법을 공개했다.