FuriosaAI, 데이터센터 AI용 RNGD 양산 돌입

FuriosaAI가 RNGD를 본격적으로 양산 출하하기 시작했다. 이미 TSMC와 ASUS 파트너십을 통해 4,000대를 첫 납품받았으며, 기업 고객은 이를 PCIe 카드 단품 또는 턴키 서버 형태로 바로 도입할 수 있다.

June Paik CEO는 첫 번째 원리 기반 아키텍처를 양산 실리콘으로 전환한 사례는 많지 않다며, RNGD가 대규모 LLM과 agentic AI를 기존 솔루션보다 훨씬 낮은 에너지와 인프라 부담으로 돌릴 수 있다고 강조했다. 회사는 이번 성과를 바탕으로 모든 기업을 위한 지속 가능한 고성능 AI 컴퓨팅을 목표로 확대하겠다고 밝혔다.

RNGD는 데이터센터 추론용 가속기로, 512 INT8 TFLOPS 성능과 높은 에너지 효율을 내세운다. 대부분의 기업 데이터센터가 공랭식이고 랙당 15kW로 제한돼 있는 현실을 겨냥해, 기존 GPU 중심 인프라를 그대로 바꾸지 않아도 되는 대안을 제시한다.

제품은 두 가지 형태로 제공된다.

• RNGD PCIe Card: 180W TDP의 드롭인 가속기
• NXT RNGD Server: 4U 랙마운트 서버에 RNGD 카드 8장을 탑재한 구성

NXT 서버는 시스템 전체 전력이 3kW에 불과해, 표준 공랭 랙에 서버 5대를 적재할 수 있다. 이를 통해 랙당 **20 petaFLOPS(INT8)**를 제공하며, 표준 환경에서 H100 기반 시스템 대비 3.5배 높은 컴퓨트 밀도를 제공한다고 설명한다.

소프트웨어 측면에서는 inter-chip tensor parallelism, Qwen 2 및 Qwen 2.5 지원, torch.compile 지원, vLLM 대체 사용, OpenAI API 호환성을 제공하는 SDK를 갖췄다. 또한 Hugging Face Hub의 사전 컴파일 아티팩트는 32K 토큰까지의 컨텍스트 길이를 지원한다.

검증 사례도 제시했다. LG AI Research는 EXAONE 모델 기준으로 RNGD가 유사 GPU 대비 2.25배 더 나은 performance-per-watt를 보였다고 확인했다. 또 OpenAI의 GPT-OSS 120B 모델을 RNGD 카드 2장으로 최적화해 실행했다고 밝히며, 대규모 모델도 적은 하드웨어로 운용 가능하다고 주장했다.