Sipeed K3, 30B LLM 구동
Sipeed's K3 RISC-V SBCs can run 30B-parameter LLMs 60 TOPS (INT4), Supports BF16/FP16/INT4
·2026.05.14 00:54
Sipeed가 K3 RISC-V SBC 시리즈를 공개하고 60 TOPS·30B LLM 구동을 내세웠다.
Sipeed가 SpacemiT K3 기반의 K3 CoM260과 K3 Pico-ITX를 공개했다.
- SoC는 8x X100 CPU 코어와 8x A100 AI 코어를 묶은 RISC-V 설계로, **60 TOPS(INT4)**와 130k DMIPS를 내세운다.
- 메모리는 LPDDR4X-4266와 LPDDR5-6400을 지원하고, LPDDR5 구성은 최대 32GB와 51GB/s 대역폭을 제공한다.
- 회사는 30B급 모델의 로컬 구동을 강조했고, Qwen3.5 35B 데모에서는 15 tokens/s를 제시했다.
- 포맷 지원은 BF16/FP16/FP8/INT8/INT4이며, eMMC 5.1, SD, M.2 NVMe(PCIe Gen3 x4), Bianbu OS, Ubuntu 26.04, ROS, Docker, RISC-V KVM도 지원한다.
- K3 CoM260은 69.6mm x 45mm 모듈이고, K3 Pico-ITX는 100mm x 86mm 규격으로 10GbE와 듀얼 **Type-C(USB-PD/Alt-DP)**를 갖췄다.
- 가격은 8GB 모델이 $299~309부터, 32GB 모델이 $629~639까지 제시됐다.
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.