#a100와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
NVIDIA Vera Rubin NVL72가 GB300 대비 메가와트당 처리량 30배 이상을 달성했다.
vllm-xtu-moe가 CPU-GPU 융합 실행으로 2×A100에서 748B MoE 추론을 지원한다.
Qwen 3.6 1M 컨텍스트에서 KV cache를 압축해 10.7GB→6.9GB로 줄였다.
A100 40GB에서 MIG가 공유 vLLM보다 보호 테넌트 p95를 크게 낮췄다.
Llama-2-70B는 prompt 처리에선 저렴하지만, completion-heavy 작업에선 GPT-3.5보다 불리하다.
AI Briefing