AI BriefingTransformers.js v3: WebGPU 지원
Transformers.js v3: WebGPU Support, New Models & Tasks, and More…
·2024.10.22 09:00
핵심 내용
Transformers.js v3가 출시되어 WebGPU 지원을 통해 브라우저 기반 AI 추론 성능을 극대화했다.
자세히 보기
Hugging Face의 Transformers.js v3가 정식 출시되었다. 이번 업데이트의 핵심은 WebGPU 지원으로, 기존 WASM 방식 대비 최대 100배 빠른 성능을 제공한다.
주요 업데이트 사항은 다음과 같다:
- WebGPU 가속: 브라우저에서 GPU를 직접 활용하여 고성능 연산 가능
- 지원 확대: 총 120개의 아키텍처 지원 및 1,200개 이상의 사전 변환된 모델 제공
- 새로운 양자화 포맷: 다양한 데이터 타입(dtypes) 지원
- 환경 호환성: Node.js(ESM/CJS), Deno, Bun과 완벽 호환
- 개발 편의성: 25개의 새로운 예제 프로젝트 및 템플릿 제공
개발자는 device: 'webgpu' 설정만으로 텍스트 임베딩, 음성 인식(Whisper), 이미지 분류 등 다양한 태스크를 브라우저 환경에서 가속할 수 있다.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
