5.16.11개월 전
Release v5.16.1
핵심 내용
GLM-5.3-Flash 모델 지원 추가 및 텐서 병렬 API 호환성 복원 등 주요 수정 사항 포함
자세히 보기
주요 기능
- GLM-5.3-Flash 모델 지원 추가: GLM-5 시리즈 최초의 네이티브 멀티모달 모델로, 총 320B 파라미터 중 18B만 활성되는 하이브리드 아키텍처(스파스 및 선형 어텐션 결합)를 채택하여 장기 컨텍스트 서빙 비용을 대폭 절감하고 효율성을 높였습니다.
버그 수정 및 호환성
- Tensor-Parallel API의 백워드 호환성(BC) 동작 복원.
- ESMFold2 관련 커널 커밋 및 저장소 경로 오류 수정.
- 보안 목적의 HF kernel 버전 고정(pinning) 적용.