LiquidAI, 온디바이스 에이전트용 LFM2.5-24B-A2B 공개

LiquidAI가 온디바이스 에이전트용으로 설계된 LFM2.5 시리즈의 마지막이자 가장 큰 모델 LFM2.5-24B-A2B를 공개했다. 총 매개변수는 24.0B이지만 토큰당 활성 매개변수는 2.45B에 불과해 효율적인 추론이 가능한 범용 텍스트 전용 추론 모델이다.

성능 및 벤치마크

LFM2.5-24B-A2B는 총 매개변수와 활성 매개변수가 약 50% 더 많은 Qwen3.6-35B-A3B의 38.19점 대비 48.09점을 기록하며 LiveClaw 벤치마크에서 최상위 에이전트임을 입증했다. 온디바이스 환경에서는 유사한 MoE 모델보다 최대 1.7배 빠르다. 주요 성능 지표는 다음과 같다:

• Apple M5 Max에서 초당 184개 토큰 처리
• 단일 NVIDIA B300 GPU에서 초당 최대 21K개 출력 토큰 처리

기술 사양

아키텍처는 40개 레이어(30개 이중 게이트 숏 컨볼루션 블록과 10개 GQA)로 구성되며, 각 MoE 블록에는 64개 전문가가 top-4 라우팅 방식으로 배치된다. 주요 구성 세부 사항은 다음과 같다:

• 학습 예산: 36조 토큰
• 어휘 크기: 128,000
• 컨텍스트 길이: 131,072 토큰
• 지원 언어: 영어, 아랍어, 중국어, 프랑스어, 독일어, 이탈리아어, 일본어, 한국어, 포르투갈어, 스페인어, 베트남어, 태국어, 인도네시아어, 힌디어, 러시아어, 폴란드어

해당 모델은 Hugging Face에서 GGUF 형식으로 제공되며, LiquidAI의 플레이그라운드에서 무료 데모를 이용할 수 있다.