AI Briefing#gpu-performance
#gpu-performance와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#gpu-performance와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
InfraRSI는 설정과 코드 동시 탐색으로 H100/H200에서 기하평균 1.83x 속도 향상을 기록했다.
Decagon AutoResearch가 추론 최적화를 자동화해 최대 2.5배 처리량 향상을 달성했다
doubleAI의 Maxwell이 형식 검증으로 런타임 바이너리를 최적화해 1.86배 속도를 높였다.
llama.cpp의 GDN chunked kernel 도입으로 Qwen 추론 속도가 최대 20.6% 향상됐다.
mistral.rs v0.8.2가 출시되어 H100 및 B200 등 최신 GPU에서 llama.cpp보다 최대 2.8배 빠른 CUDA 추론 성능을 제공한다.