AI BriefingDeepSeek, DeepInfer 추론 프레임워크 오픈소스 공개
·2026.10.20 18:08
핵심 내용
DeepSeek이 NVIDIA SM100과 Huawei Ascend 950을 지원하는 DeepInfer 추론 프레임워크를 오픈소스로 공개했다.
자세히 보기
- DeepSeek이 Apache License 2.0 라이선스 하에 고성능 추론 프레임워크 DeepInfer를 오픈소스로 공개함
- 해당 프레임워크는 현재 DeepSeek-V4.1-Flash 모델의 오프라인 추론을 지원함
- 하드웨어 지원 범위는 NVIDIA SM100 GPU와 Huawei Ascend 950 NPU로 한정됨
- 주요 기능으로는 신뢰도 기반 스케줄링 검증이 적용된 DSpark, SWA bounded replay, 그리고 배치 불변 추론이 포함됨
- 성능 벤치마크는 prefill 작업에 4개의 SM100 GPU, decode 작업에 64개의 GPU를 사용하여 측정됨
- 완전한 추론 서비스 구축을 위해 이번 릴리스에 포함되지 않은 KV 캐시 시스템 및 로드 밸런싱 등 추가 구성 요소가 필요함
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.