Liquid AI, 온디바이스 특화 멀티모달 모델 LFM3 공개

• Liquid AI가 텍스트, 비전, 오디오, 의사결정 기능을 단일 공유 백본으로 통합한 멀티모달 모델 패밀리 LFM3를 출시함. 온디바이스 및 엣지 배포를 목표로 함.
• 1.7B 텍스트 모델은 49.37의 평균 벤치마크 점수를 기록함. 이는 Qwen3.5-9B(47.24)와 LFM2.5-2.6B(31.55)보다 높은 수치임. 128K 컨텍스트에서 KV 캐시 사용량은 1.6 GB로, Qwen3.5-4B의 4.3 GB보다 적음.
• LFM3-VL-2B는 71.4의 평균 점수로 6배 큰 Gemma 4 12B의 성능을 상회함. LFM3-Audio-2B는 18개 언어를 지원하며, 영어 WER 6.2%, 첫 토큰까지 시간(TTFT) 50ms를 달성함.
• 신규 의사결정 모델(d1-2B, d1-Omni-2B)은 단일 포워드 패스로 밀리초 단위 응답을 제공함. 보정된 확률로 질문에 답하는 방식임.

아키텍처 및 학습

• 트리 하이브리드 레이어 믹스는 13개 게이트드 숏 컨볼루션, 5개 슬라이딩 윈도우 어텐션 레이어, 6개 글로벌 어텐션 레이어를 조합해 속도와 품질을 균형 있게 조절함.
• 22T 토큰으로 사전 학습했으며, 256K 컨텍스트 윈도우를 지원함. 과학 논문, 코드, 에이전트 트레이스 데이터 비중을 높임.
• 후학습(Post-training) 단계에서 SFT, 혼합 RL, 멀티 도메인 온폴리시 증류, 에이전트 RL을 적용해 도구 사용 및 전문 워크플로우 최적화를 수행함.

배포 및 생태계

• 오픈 웨이트 모델은 Hugging Face와 Liquid AI API에서 제공됨. llama.cpp, MLX, vLLM을 네이티브로 지원함.
• 런칭 파트너로는 AMD, Arm, Intel, NVIDIA, Qualcomm, Vercel이 참여함. Mercedes-Benz와 Shopify는 프리릴리스 테스트를 진행함.
• 하드웨어 지원 범위는 14개의 디바이스/백엔드 조합을 포함함. Samsung Galaxy S26 Ultra, Raspberry Pi 5, Apple M4 Max 등이 해당됨.