Boson AI Higgs Realtime Duplex, 45B MoE 모델로…

Boson AI가 45B 파라미터 MoE 모델인 Higgs Realtime Duplex를 출시함. 이 모델은 턴 기반 순서가 아닌 풀 듀플렉스 모드로 작동하며, 동시에 듣고, 보고, 말함.
모델은 160ms 청크 단위로 입력을 처리하며, 오디오와 비디오 기준 분당 약 2.6K 토큰을 생성함. 컨텍스트 윈도우는 최근 5분 및 압축된 히스토리를 포함해 13K에서 25K 토큰을 커버함.
복잡한 추론, 도구 호출, 위임 작업은 더 큰 백엔드 모델이 배경에서 처리함. 경쟁사처럼 모든 추론을 배경으로 보내지 않고, 도구 결과가 완료되기 전에 프론트 모델이 말을 시작할 수 있음.
벤치마크 결과, Higgs Realtime Duplex는 7개 지표 중 5개에서 OpenAI의 최고 설정보다 1~5점 낮음. 가장 큰 격차는 Full-Duplex-Bench의 턴 테이킹 성능에서 나타남.
시스템은 참조 클립과 이미지를 통해 제로샷 음성 및 얼굴 클로닝을 사용함. 텍스트, 오디오, 비디오 2T 토큰을 활용해 H100 클러스터 기반 Megatron 스택으로 학습함.
설계 목표는 모델 시간 1시간 비용이 인간 시간 1시간의 10분의 1 이하가 되도록 하는 것임. 순수 파라미터 수보다 데이터 및 학습 효율성을 우선시함.

Boson AI Higgs Realtime Duplex, 45B MoE 모델로 풀 듀플렉스 음성 및 비디오 처리