Liquid AI, 온디바이스 에이전트용 LFM2.5-24B-A2B 공개

Liquid AI가 온디바이스 에이전트용 추론 모델 LFM2.5-24B-A2B를 공개했다. 총 파라미터는 240억 개지만 토큰당 활성 파라미터는 20억 개인 Mixture-of-Experts(MoE) 구조로, 로컬 하드웨어에서 빠르고 프라이빗한 에이전트 구동을 가능하게 한다.

아키텍처 및 학습

LFM2-24B-A2B 기반에 40개 레이어와 MoE 블록당 64개 전문가, top-4 라우팅을 적용했다. 주요 개선 사항은 다음과 같다.

• 컨텍스트 윈도우: 32K에서 131K 토큰으로 확장.
• 토크나이저: 비라틴어 지원 강화를 위해 어휘를 65K에서 128K 토큰으로 두 배 증가.
• 학습 데이터: 사전 학습은 약 33T 토큰 규모로 진행했으며, 이후 32K 컨텍스트에서 2T 토큰, 131K 컨텍스트에서 300B 토큰으로 미드 트레이닝을 수행했다.
• 후속 학습: 지도 학습 미세 조정, 교사 전문화, 다중 도메인 온폴리시 증류(MOPD), OpenClaw와 Hermes Agent 하네스 내 에이전트 강화 학습 등 5단계 프로세스를 거쳤다.

벤치마크 성능

총 파라미터와 활성 파라미터가 약 50% 더 많은 Qwen3.6-35B-A3B 등 경쟁 모델과 비교해 동등하거나 앞서는 성능을 보인다. 특히 도구 사용과 지시 따르기에서 강점을 드러냈다.

• LiveClaw: 48.09점 기록 (Qwen3.6-35B-A3B는 38.19점).
• AutomationBench: 27.69점으로 차점 모델의 3배 이상.
• BFCLv4: 65.01점으로 Qwen3.6-35B-A3B(65.00점)을 근소하게 상회.
• 지시 따르기: IFEval(96.75), IFBench(74.69), Multi-IF(84.38)에서 선두.

지식 집약적 작업(GPQA Diamond, HLE)과 코딩(SWE-Bench Verified)에서는 대형 모델이 여전히 우위를 점하므로, 해당 워크로드에는 검색 또는 웹 검색 연동을 권장한다.

추론 속도

활성 파라미터가 적어 속도 이점이 크다.

• 엣지 디바이스: Apple M5 Max에서 184 tokens/s, Ryzen AI Max+ 395에서 114 tokens/s로 디코딩하며, 유사 MoE 대비 최대 1.7배 빠르다.
• GPU: 단일 NVIDIA B300 GPU에서 높은 동시성으로 21K output tokens/s 이상 달성.

가용성

LFM2.5-24B-A2B와 기본 버전 모두 오픈 웨이트로 Hugging Face에서 제공된다. llama.cpp, MLX, vLLM, SGLang, ONNX와 즉시 연동되며 transformers>=5.0.0이 필요하다.