#hybrid-model
#hybrid-model와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#hybrid-model와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
하이브리드 모델 서빙에서 프리필 TPM을 최대 3.14배 높이고 p90 TTFT를 최대 88% 줄였다.
LiquidAI가 온디바이스 배포를 위해 설계된 하이브리드 모델 LFM2.5-8B-A1B를 출시했다.
카카오가 사고 과정을 거쳐 답변하는 하이브리드 멀티모달 언어모델 Kanana-v-4b-hybrid를 개발했다.
고품질 추론 데이터를 활용해 15B 추론 모델을 성능 저하 없이 2.1배 빠른 Mamba 하이브리드로 증류했다.