AI Briefing#deepseek-v4
#deepseek-v4와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#deepseek-v4와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
DeepSeek V4 KV-cache 압축이 토큰 위상별 결정론적 검색 실패를 유발했다.
vLLM v0.28.0은 Kimi-K3와 DeepSeek V4 모델에 대한 대규모 성능 최적화 및 추론 기능을 추가했다.
vLLM v0.28.0이 Kimi-K3와 DeepSeek V4를 위한 대규모 성능 최적화 및 새로운 추론 기능을 공개했다.
NVIDIA ModelExpress는 GPU 간 직접 데이터 전송을 통해 모델 가중치 로딩 속도를 획기적으로 단축한다.
NVIDIA는 Blackwell 플랫폼과 최적화된 소프트웨어 스택을 통해 AI 추론 시 토큰당 비용을 획기적으로 낮추고 있다.
DeepSeek-V4의 CSA KV-cache를 압축하여 GPU 메모리 효율을 극대화하는 경량 리트리버가 공개되었습니다.
최신 오픈 웨이트 LLM들이 장문 컨텍스트 효율성을 위해 KV 캐시 압축과 어텐션 최적화 기법을 도입했다
Gemma 4와 DeepSeek V4를 비롯한 오픈웨이트 LLM들은 KV 공유와 압축 Attention으로 장문 컨텍스트 비용을 낮춘다.
DeepSeek가 V4-Pro와 V4-Flash 프리뷰를 공개하며 가격 경쟁력을 강조했다.
DeepSeek V4 API에서 도구 호출(Tool Call) 시 reasoning_content를 반드시 전달해야 하는 기술적 요구사항을 확인했다.
DeepSeek V4 오픈소스화로 중국 AI 산업이 모델 개발에서 인프라 및 특화 데이터 중심으로 재편되고 있다.
NVIDIA가 DeepSeek V4에 Blackwell Day-0 지원과 초당 3,500TPS 성능을 공개했다.
DeepSeek이 1M token 컨텍스트 V4 프리뷰 2종을 공개하고 저가 전략을 내세웠다.
DeepSeek의 최신 모델인 V4 Flash 및 Non-Flash 버전이 Hugging Face를 통해 공개되었다.