AI BriefingRebellions AI, 스위치 없는 Dragonfly 및 6D 하이퍼큐브로 64개 장치 랙 구축
·2026.10.21 22:00
핵심 내용
Rebellions AI가 스위치 없는 토폴로지로 GenAI 추론 비용 절감한다
자세히 보기
- Rebellions AI는 GenAI 클러스터용 유연한 네트워크 토폴로지(Dragonfly, 3D/6D 하이퍼큐브)를 제공하며, 이는 Nvidia의 고정형 All-to-All NVSwitch 아키텍처와 대비됨
- 벤치마크 결과, 64개 Rebel 100s 가속기 연동을 위해 이더넷 스위치를 추가하면 스위치 없는 Dragonfly 베이스라인 대비 추론 처리량이 최대 52.4%, 상호작용성이 47.6% 증가함
- 스위치 없는 Dragonfly 및 6D 하이퍼큐브 토폴로지는 외부 스위치 없이 64개 장치 랙 구성을 가능하게 하여 자본, 전력, 공간 비용을 절감하고 토큰당 비용을 낮춤
- 테스트에는 FP4 양자화 가중치를 가진 3조 파라미터 mixture-of-experts 모델이 사용되었으며, 데이터 병렬성을 위해 최소 10.9개 Rebel 100s 가속기와 16개 XPU가 필요함
- Rebel 100s 내장 라우터의 현재 지연 시간은 약 1마이크로초이며, Rebellions는 Nvidia NVSwitch의 추정치인 약 500나노초로 줄이는 작업을 진행 중이며, 8개 이더넷 포트 전체에서 1.6 TB/sec의 총 대역폭을 제공함
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.