Nvidia, Windows PC용 고성능 CPU 시스템 제안

Nvidia가 로컬 AI 모델 실행 수요를 겨냥하여 CPU와 GPU가 128GB 공유 메모리를 함께 사용하는 새로운 Windows PC용 시스템 아키텍처를 제안했다.

이 시스템은 최대 6,144개의 CUDA 코어와 Cortex-X925 기반의 성능 코어 10개, 효율 코어 10개로 구성된다. 핵심 차별점은 Apple Silicon과 유사한 통합 메모리(Unified Memory) 구조로, CPU와 GPU가 단일 메모리 풀을 공유하여 데이터 전송 오버헤드를 줄이는 제로 카피(Zero-copy) 연산을 지향한다.

주요 특징 및 고려사항은 다음과 같다:

• AI 최적화: 전용 GPU 메모리보다 대역폭은 낮을 수 있으나, 대규모 로컬 AI 모델을 구동하는 데 필요한 메모리 용량과 비용 효율성을 제공한다.
• 성능 비교: CPU 성능은 Apple Silicon보다 우수할 것으로 예상되나, AMD의 AVX-512 지원과 비교 시 범용성 측면에서 차이가 있을 수 있다.
• 제약 사항: 메모리가 보드에 납땜되어 있어 사후 업그레이드가 불가능하며, 메모리 대역폭이 실제 성능의 병목 지점이 될 수 있다.

이 제안은 로컬 LLM 실행을 원하는 프로슈머와 보안을 중시하는 기업의 요구사항을 충족하는 데 중점을 두고 있다.