AI Briefing
EN로그인

Redis 개발자, 로컬 프론티어 LLM 추론용 C 기반 엔진 ds4 공개

·2026.10.03 03:01

핵심 내용

Redis 개발자가 C 기반 로컬 추론 엔진 ds4를 공개했다.

자세히 보기

Redis의 개발자가 C 기반 추론 엔진 ds4를 공개했습니다. 이 오픈소스 도구는 DeepSeek V4, V4.1 Flash, GLM 5.x, Qwen3.8 Flash Next 등 프론티어 오픈 웨이트 모델을 로컬에서 실행할 수 있게 합니다.

주요 특징

  • Apple Silicon(Metal), NVIDIA(DGX Spark/CUDA), AMD(Strix Halo/ROCm) 플랫폼 지원
  • 32 GB부터 512 GB까지 다양한 메모리 구성 호환
  • imatrix를 활용한 비대칭 2비트 양자화
  • SSD 스트리밍을 통해 재시작 후에도 유지되는 KV 캐시 관리
  • CLI, OpenAI/Anthropic 호환 API, 코딩 에이전트를 위한 통합 인터페이스

벤치마크 결과

  • M5 Max(128 GB): 32K 컨텍스트에서 생성 속도 34.4 tokens/s, 프리필 속도 557 tokens/s
  • DGX Spark(128 GB): 2K 컨텍스트에서 생성 속도 18.1 tokens/s, 프리필 속도 825.8 tokens/s

OpenCode, Claude Code, Codex CLI 등과의 연동을 지원합니다.

open-sourceqwendeepseeklocal-llminference-engineredisglmantirez
원문 읽기Threads로 공유

이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.

AI 처리 방식을 확인하거나, 요약 오류와 출처 표기 문제, 삭제 요청을 문의 · 건의로 알려주세요.

관련 추천

Hacker NewsMagnitude, 하드웨어 맞춤 최적화로 llama.cpp 대비 최대 2배 빠른 AI 추론 엔진 공개RedditLemma, 오픈소스 AI 에이전트 워크스페이스 출시Hacker NewsDeepSeek, macOS·Windows용 오픈소스 에이전트 프레임워크 'DeepSeek Harness' 공개TLDR AIImbue Josh Albrecht, 데이터 소유권 강조한 'Personal Computing 2.0' 제안Cloudflare BlogCloudflare, 오픈소스 결정 모델 Clef 공개 및 RL 파인튜닝 플랫폼 출시TLDR AIJared Palmer, 0.8B~27B 오픈소스 의사결정 모델 Kev 1.0 공개