Transformers.js v4 출시

WebGPU 런타임 도입과 성능 최적화를 거친 Transformers.js v4가 NPM을 통해 정식 출시되었습니다.

가장 큰 변화는 C++로 재작성된 새로운 WebGPU 런타임의 채택입니다. 이를 통해 브라우저는 물론 Node, Bun, Deno와 같은 다양한 JavaScript 환경에서 WebGPU 가속을 활용할 수 있습니다.

주요 개선 사항은 다음과 같습니다:

• 성능 극대화: ONNX Runtime의 특화된 연산자(GroupQueryAttention, MatMulNBits 등)를 활용하여 성능을 높였으며, BERT 기반 임베딩 모델의 경우 약 4배의 속도 향상을 달성했습니다.
• 모노레포 전환: pnpm workspaces를 도입하여 다양한 서브 패키지를 효율적으로 관리할 수 있는 구조로 개편되었습니다.
• 모듈화된 구조: 기존의 거대한 models.js 파일을 기능별 모듈로 분리하여 유지보수성과 가독성을 대폭 개선했습니다.
• 모델 지원 확대: 새로운 익스포트 전략을 통해 더 많은 최신 모델 아키텍처를 지원합니다.