FuriosaAI와 OpenAI: 지속 가능한 AI의 미래

OpenAI의 서울 오피스 개소식에서 FuriosaAI는 자사의 플래그십 AI 가속기인 RNGD를 통해 OpenAI의 새로운 오픈 웨이트 모델인 gpt-oss-120b를 실시간으로 구동하는 시연을 진행했다.

이번 시연에서는 단 2개의 RNGD 카드와 MXFP4 정밀도를 사용하여 실시간 챗봇을 효율적으로 구동했다. 이 설정은 표준 워크스테이션이나 RNGD 서버와 호환되어, 기존 데이터 센터의 전력 예산 내에서도 최첨단 모델을 배포할 수 있음을 입증했다.

RNGD는 GPU의 비효율성을 제거하기 위해 설계된 Tensor Contraction Processor (TCP) 아키텍처를 기반으로 한다. 이 AI 네이티브 방식은 병렬 처리와 데이터 재사용을 극대화하여 세계적인 수준의 성능과 혁신적인 에너지 효율을 제공한다.

기업 고객은 RNGD를 통해 다음과 같은 이점을 얻을 수 있다:

• 낮은 총소유비용(TCO): 특정 벤더 종속성 없이 최신 오픈 웨이트 모델 운영 가능
• 데이터 주권 확보: 민감한 워크로드를 위한 고성능 로컬 인프라 구축 및 데이터 통제권 강화
• 유연한 배포: 온프레미스 서버나 클라우드 데이터 센터 등 기존 인프라 내에서 효율적인 확장 가능