Neuphonic, 음성-도구 변환 모델 NeuDecide 공개

Neuphonic이 음성에서 직접 도구 호출로 변환하는 모델 'NeuDecide'를 Apache 2.0 라이선스로 오픈소스화했다. 이 모델은 음성-텍스트 변환 단계를 생략하며, 파일 용량은 43 MB로 단일 CPU 스레드에서 실행되도록 설계되어 제한된 자원 환경에 적합하다.

벤치마크 성능 SLURP 벤치마크의 도구 전용 작업(도구 10개)에서 NeuDecide는 72.4%의 도구 정확도를 기록했다. 이는 Nvidia Parakeet + Google FunctionGemma(24.4%)보다 약 3배, Cactus(Whistle + Needle)(20.7%)보다 3.5배 높은 수치다.

추론 속도 단일 CPU 스레드 기준 호출까지 걸리는 시간(Time-to-call)은 다음과 같다:

• Samsung S24+: 82 ms
• Raspberry Pi 5: 207 ms

아키텍처 및 특징 아키텍처는 오디오 인코더, 토큰화된 JSON 도구 정의를 통합하는 도구 인코더, 토큰 단위로 도구 호출을 생성하는 디코더 등 3개의 ONNX 컴포넌트로 구성된다. 도구 목록은 추론 시점에 제공되므로 사용 가능한 액션을 변경할 때 재학습이 필요 없다. Neuphonic은 로봇 청소기나 자동차 제어 등 프리셋을 테스트할 수 있는 WASM 브라우저 데모와 로컬 추론용 Python 패키지를 제공한다.