H Company, 고처리량 컴퓨터 사용 모델 Holotron-12B 공개

H Company가 NVIDIA Nemotron-Nano-2 VL을 기반으로 개발한 멀티모달 컴퓨터 사용 모델 Holotron-12B를 출시했다. 이 모델은 단순한 지시 이행을 넘어, 인터랙티브 환경에서 인지, 결정, 행동을 효율적으로 수행하는 **에이전트용 정책 모델(Policy Model)**로 설계되었다.

하이브리드 SSM-Attention 아키텍처를 통해 추론 효율을 극대화했다. 기존 트랜스포머의 이차 함수적 연산 비용 문제를 해결하기 위해 **상태 공간 모델(SSM)**과 어텐션 메커니즘을 결합했다. 이를 통해 긴 컨텍스트와 다수의 이미지를 처리할 때 메모리 사용량을 획기적으로 줄이고 추론 처리량(Throughput)을 높였다.

WebVoyager 벤치마크 결과, 기존 Holo2-8B 대비 2배 이상의 처리량을 기록했으며, 최대 동시성 100 환경에서 초당 8.9k 토큰의 처리 속도를 달성했다. 또한 WebVoyager 성능이 35.1%에서 80.5%로 급증했으며, OS-World-G, GroundUI, WebClick 등 로컬라이제이션 및 그라운딩 벤치마크에서도 뛰어난 성능을 입증했다.