AI Briefing5.16.01개월 전
Release: v5.16.0
핵심 내용
Qwen4-Exp와 GraniteSpeech5 모델을 추가하여 하이브리드 아키텍처 및 음성 인식 기능을 강화했습니다.
자세히 보기
- Qwen4-Exp 모델 추가: Qwen3.5의 하이브리드 텍스트 및 멀티모달 아키텍처를 기반으로 GatedResidual (GR), Qwen Sparse Attention (QSA), **Per-Layer Embedding (PLE)**의 세 가지 핵심 구성 요소를 도입했습니다. QSA는 선형 및 스파스 어텐션을 통합하여 긴 컨텍스트 워크로드의 추론 효율성을 크게 향상시켰습니다.
- GraniteSpeech5 모델 추가: 약 470M 파라미터의 경량 컨포머 인코더로, CTC(Connectionist Temporal Classification)를 사용하여 BPE 타겟으로 학습된 자동 음성 인식(ASR) 모델입니다. 인코더 전용 구조로 빠른 전사(transcription)를 지원합니다.