Transformers.js v3: WebGPU 지원
Transformers.js v3: WebGPU Support, New Models & Tasks, and More…
·2024.10.22 09:00
Transformers.js v3가 출시되어 WebGPU 지원을 통해 브라우저 기반 AI 추론 성능을 극대화했다.
Hugging Face의 Transformers.js v3가 정식 출시되었다. 이번 업데이트의 핵심은 WebGPU 지원으로, 기존 WASM 방식 대비 최대 100배 빠른 성능을 제공한다.
주요 업데이트 사항은 다음과 같다:
- WebGPU 가속: 브라우저에서 GPU를 직접 활용하여 고성능 연산 가능
- 지원 확대: 총 120개의 아키텍처 지원 및 1,200개 이상의 사전 변환된 모델 제공
- 새로운 양자화 포맷: 다양한 데이터 타입(dtypes) 지원
- 환경 호환성: Node.js(ESM/CJS), Deno, Bun과 완벽 호환
- 개발 편의성: 25개의 새로운 예제 프로젝트 및 템플릿 제공
개발자는 device: 'webgpu' 설정만으로 텍스트 임베딩, 음성 인식(Whisper), 이미지 분류 등 다양한 태스크를 브라우저 환경에서 가속할 수 있다.
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.