Furiosa RNGD, Daum의 AI 생성 검색 개요 구동

Daum Overview가 FuriosaAI의 RNGD accelerator를 기반으로 상용 운영에 들어갔다. Upstage의 Solar LLM을 활용해 수백만 명의 사용자에게 실시간 검색 요약과 에이전트형 답변을 제공하며, 하루 약 5억 토큰을 생성한다.

RNGD는 검색 서비스에 필요한 낮은 지연시간과 높은 출력 처리량을 충족하면서 NVIDIA H200급 성능을 구현한다. 동시에 180W 공랭 환경에서 작동해 고전력·수랭 GPU 클러스터 대비 토큰당 에너지 소비와 총소유비용(TCO)을 낮추며, TCO는 50% 이상 절감된다.

이번 배포는 국내 기술로 구성된 Sovereign AI 스택의 상용 사례다.

• 애플리케이션: Kakao·Daum의 Daum Overview
• 모델: 한국어·영어 문맥 이해에 맞춘 Upstage Solar LLM
• 가속기·소프트웨어: RNGD와 furiosa-llm 서빙 프레임워크

현재 Furiosa의 Data Center Platform에서 운영 중인 워크로드는 삼성SDS의 상용 NPUaaS 확대에 맞춰 이전될 예정이다. Solar 모델은 아키텍처 코드를 수정하지 않고, vLLM의 대체 프레임워크인 furiosa-llm을 통해 며칠 만에 RNGD의 Tensor Contraction Processor(TCP) 프리미티브에 컴파일·최적화됐다.

FuriosaAI, Upstage, AXZ는 앞으로 Daum의 dense embedding 모델을 기존 CPU 인스턴스에서 RNGD NPU로 이전하고, RNGD의 multi-LoRA 기능을 활용해 하나의 기반 가중치로 전문 검색 작업을 제공하는 방안도 검토한다. RNGD는 1월 TSMC 양산에 들어갔으며, 올해 2만 개 출하와 2027년 2~3배 물량 확대를 목표로 하고 있다.