Python 없는 VibeVoice 엔진 출시
vibevoice.cpp: Microsoft VibeVoice (TTS + long-form ASR with diarization) ported to ggml/C++, runs on CPU/CUDA/Metal/Vulkan, no Python at inference
·2026.05.05 16:33
Microsoft VibeVoice를 Python 없이 C++로 구동할 수 있는 ggml 기반 추론 엔진 vibevoice.cpp가 공개되었다.
vibevoice.cpp는 Microsoft의 VibeVoice 모델을 **ggml/C++**로 포팅한 프로젝트로, 추론 시 Python이나 PyTorch, vLLM 없이 단독 실행이 가능하다.
주요 기능:
- TTS (Text-to-Speech): 30초 분량의 참조 클립을 통해 24kHz 음성 복제 가능 (0.5B 모델).
- 장문 ASR (Automatic Speech Recognition): 화자 분리(Diarization) 기능을 포함한 7B 파라미터 모델 지원. 최대 17분 분량의 오디오를 한 번에 처리하며 JSON 형식으로 결과 반환.
지원 백엔드: CPU, CUDA, Metal, Vulkan, hipBLAS를 지원하여 다양한 하드웨어 환경에서 구동 가능하다.
성능 및 특징:
- CUDA(Q4_K) 환경에서 68초 샘플 기준 0.41 RTF(Real-Time Factor)를 기록했다.
- 기존 Python 기반 방식과 달리 Python 의존성이 전혀 없어 임베딩 및 로컬 배포에 매우 유리하다.
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.