Cerebras CS-4, 랙 규모 AI 추론 시스템

Cerebras는 새로운 랙 규모 AI 추론 시스템 CS-4를 발표하며, 기존 GPU 시스템 대비 최대 30배 빠른 추론 속도와 향상된 경제성을 제공한다고 밝혔다. 이 시스템은 프런티어 AI 아키텍처를 목표로 설계되었으며, 이전 세대 대비 2배 빠른 WSE-3 Turbo 웨이퍼 3개를 탑재한다.

CS-4는 Nexus 랙 규모 플랫폼 아키텍처를 기반으로 하며, 컴퓨트, 전력, I/O의 모듈화를 통해 제조와 배포, 유지보수를 단순화했다. 주요 기술적 특징은 다음과 같다.

• 모듈형 컴퓨트 백팩: 웨이퍼, 전력 변환, 직접 액체 냉각, 고속 I/O를 하나의 컴팩트한 3D 패키지로 통합하여 부품 수를 50% 줄이고 배포 시간을 수일에서 수 시간으로 단축했다.
• 고밀도 전력 공급: 프로세서에서 불과 0.5mm 거리에 전력을 공급하여 보드 레벨 전력 손실을 최소화하고, WSE-3T에 2배의 전력을 공급해 더 높은 작동 주파수를 달성했다.
• 차세대 웨이퍼 I/O: 프로그래머블 I/O 서브시스템을 도입해 대역폭을 2배로 늘리고 지연 시간을 줄였다. 웨이퍼 간 연결 시 스위치 없이 2마이크로초의 낮은 지연 시간을 구현하여 10조 개 파라미터 이상의 모델에서도 초당 1,000개 이상의 토큰을 생성할 수 있다.

또한, 안정된 전력·냉각·네트워크 계층(PowerRack)을 먼저 설치하고 이후 컴퓨트 모듈을 결합하는 방식을 채택하여 하이퍼스케일 데이터센터에서의 배포 효율성을 극대화했다.