Holo3.1: 로컬/모바일 에이전트 출시

Holo3.1은 웹, 데스크톱, 모바일을 포함한 다양한 GUI 환경과 에이전트 프레임워크에서의 견고함을 대폭 개선한 모델 시리즈다.

주요 특징 및 개선 사항:

• 모바일 자동화 강화: AndroidWorld 벤치마크에서 35B-A3B 모델이 79.3%의 성능을 달성하며 모바일 환경 제어 능력을 높였다.
• 다양한 모델 라인업: 0.8B, 4B, 9B의 소형 모델부터 고성능 35B-A3B 모델까지 제공하여 비용 효율적이고 프라이빗한 배포를 지원한다.
• 로컬 추론 최적화: FP8, Q4 GGUF, NVFP4와 같은 양자화된 체크포인트를 최초로 제공하여 성능 저하를 최소화하면서 로컬 실행 속도를 극대화했다.
• 함수 호출(Function-calling) 지원: 네이티브 함수 호출 프로토콜을 지원하여 다양한 에이전트 스택과의 통합성을 높였다.

추론 성능: NVIDIA의 NVFP4 W4A16 설정을 사용할 경우, DGX Spark 기준 BF16 대비 1.74배 빠른 토큰 처리량을 기록하며 압도적인 속도 향상을 보여준다.