AI BriefingDeepX, 5W 전력으로 1000억 파라미터 LLM 구동하는 DX-M2 테이프아웃
·2026.11.09 15:47
핵심 내용
DeepX가 5W 전력으로 1000억 파라미터 LLM 구동이 가능한 DX-M2 칩 테이프아웃을 완료했다.
자세히 보기
- DeepX가 5W 미만의 전력으로 최대 1000억 파라미터 LLM 구동이 가능한 2세대 엣지 AI 가속기 DX-M2의 테이프아웃을 완료함
- 200억~1000억 파라미터 모델(활성 파라미터 30억~200억)을 타겟으로 하며, 추론 속도는 초당 10~30 토큰을 지원함
- 시뮬레이션 결과, GEMV 연산을 Samsung LPDDR5x-PIM으로 오프로딩하면 Llama3.1-8B 모델의 초당 토큰 처리량이 6.7배 증가하지만, 전력 소비는 2.7배로 늘어남
- 메모리 대역폭이 50 GB/s에서 150 GB/s로 3배 확대되고, 2nm 공정 전환으로 NPU 전력 효율이 2배 향상되어 80 TOPS 성능을 달성함
- 2027년 3월 샘플 출하를 예정하고 있으며, 2027년 가을 양산을 목표로 함
- 2028년 출시 예정인 DX-M3는 칩렛 기반 설계와 LPDDR6-PIM을 지원하여 자동차 및 휴머노이드 로봇 시장을 타겟으로 함
- DeepX는 로봇 고객사가 Nvidia Isaac에서 간단한 API 변경만으로 이관할 수 있는 DX-Newton 소프트웨어 스택을 개발 중이며, 배터리 수명 20배 연장을 주장함
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
