Liquid AI, CPU 최적화 LFM2.5 인코더 모델 공개

Liquid AI가 LFM2.5-Encoder-230M 및 350M 두 가지 새로운 인코더 모델을 공개했다. 이 모델들은 기존의 대형 모델들과 대등한 성능을 유지하면서도, 입력 길이가 길어질수록 연산 비용이 완만하게 증가하는 특징을 가진다.

주요 특징은 다음과 같다:

• 높은 효율성: 긴 컨텍스트 환경에서 ModernBERT-base 대비 약 3.7배 빠른 CPU 추론 속도를 제공한다.
• 장문 컨텍스트 지원: 8,192 토큰의 컨텍스트를 지원하며, 입력 길이에 따른 지연 시간 증가가 매우 적다.
• 범용 인코더 설계: Masked Language Modeling(MLM) 방식으로 사전 학습되어 분류, 토큰 레벨 작업, 검색 등 다양한 NLP 태스크에 미세 조정(Fine-tuning)이 가능하다.
• 성능: GLUE 및 SuperGLUE 벤치마크에서 크기 대비 매우 강력한 성능을 보이며, 350M 모델의 경우 훨씬 더 큰 규모의 모델들과 경쟁할 수 있는 수준이다.

이 모델들은 의도 라우팅(Intent Router), PII 탐지, 텍스트 분류 등 비용 효율성이 중요한 실시간 생산 환경의 NLP 애플리케이션에 최적화되어 있다.