FuriosaAI, RNGD 샘플링 진행 중
·2024.10.21 09:00
FuriosaAI가 차세대 데이터센터 추론용 칩 **RNGD**의 고객 샘플링을 본격적으로 시작했다.
FuriosaAI가 데이터센터 추론용 2세대 칩인 RNGD의 첫 PoC(Proof of Concept)를 시작했다. 최근 서울 소재의 글로벌 기술 기업에 RNGD가 탑재된 서버를 인도했으며, 다수의 고객사가 모델 테스트를 위한 샘플링을 준비 중이다.
RNGD는 LLM 및 멀티모달 모델을 위한 고성능·고효율 추론에 최적화되어 있다. 현재 Furiosa의 소프트웨어 스택을 통해 Meta의 Llama 3.1 70B와 같은 최신 모델을 풀 스피드로 구동할 수 있다.
현재 RNGD는 다음과 같은 환경에 도입되어 있다:
- K-Cloud 프로젝트를 통해 인공지능산업융합사업단(AICA) 및 정보통신산업진흥원(NIPA) 데이터센터에 설치 완료
- 사우디아라비아 Aramco와 업무협약(MoU) 체결
고객사들은 향후 지연 시간(latency), 처리량(throughput), 에너지 소비 효율 등 실질적인 성능을 검증할 예정이다. FuriosaAI는 조만간 제3자 벤치마크를 포함한 상세 기술 정보를 공개할 계획이다.
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.