#cuda

#cuda와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.

CUDA+ROCm 동시 구동

Windows에서 CUDA와 ROCm을 동시에 쓰는 llama.cpp 빌드법을 공유했다.

·2026.05.01 07시

PyTorch→CUDA LLM 컴파일러

5,000줄 Python과 raw CUDA로 PyTorch 그래프를 CUDA까지 내리는 컴파일러를 구현했다.

·1·2026.04.30 04시

Ubuntu 26.04, CUDA/ROCm 설치

Canonical은 Ubuntu 26.04부터 CUDA와 ROCm을 apt만으로 설치할 수 있게 한다.

·1·2026.04.30 04시

llama.cpp -sm tensor 개선

RTX 3090 Ti 2장 구성에서 -sm tensor 적용 시 llama-bench 처리량이 상승했다.

·1·2026.04.30 02시

llama.cpp flash-attn추가

llama.cpp에 Mistral Small 4용 DKQ=320/DV=256 flash-attn CUDA 지원이 추가됐다.

·2·2026.04.29 06시

Qwen3.6-27B 처리량 2배

Luce DFlash가 단일 RTX 3090에서 Qwen3.6-27B 처리량을 최대 2배로 끌어올렸다.

·1·2026.04.28 01시

llama.cpp MMQ 최적화

llama.cpp CUDA MMQ 커널이 fastdiv와 동적 타일링으로 일부 구간에서 속도를 개선했다.

·1·2026.04.25 23시

3배 빠른 Hunyuan3D

Hunyuan3D-Paint와 Shape를 Apple Silicon용 MLX/MPS로 포팅해 텍스처 생성이 3배 빨라졌다.

·2026.04.24 02시

KDA 2.22배

Moonshot이 FlashKDA를 공개했고, H20에서 Triton 대비 최대 2.22배 빨라졌다.

·1·2026.04.22 09시

맥으로 3D생성

TRELLIS.2를 Apple Silicon의 MPS로 포팅해 NVIDIA 없이 3D 변환이 가능해졌다.

·1·2026.04.20 16시

Show HN: Apple Silicon에서 TRELLIS.2 Image-to-3D 생성을 네이티브로 실행

TRELLIS.2를 CUDA 없이 Apple Silicon에서 3D 생성하도록 포팅했다.

·1·2026.04.20 09시

5060 Ti로 35B 실측

RTX 5060 Ti 16GB에서 Qwen3.6-35B-A3B가 prebuilt 대비 약 10% 빨라졌다.

·1·2026.04.18 09시

품질 손실 없이 LLM 가중치를 22% 압축하는 방법

Unweight는 H100에서 LLM 가중치를 15~22% 줄이면서 출력은 bit-exact로 유지한다.

·2·2026.04.17 22시

graph_reused로 CUDA 체크 제거

llama.cpp의 ggml에 graph_reused를 넣어 CUDA의 O(n) 변경 체크를 줄였다.

·2026.04.16 21시

젠슨 황 - TPU 경쟁, 중국에 반도체를 팔아야 하는 이유, 그리고 Nvidia의 공급망 해자

Nvidia의 해자는 칩 자체보다 공급망과 생태계를 함께 장악하는 힘이다.

·2·2026.04.16 09시

멀티 에이전트 커널 최적화

Cursor의 멀티 에이전트 시스템이 CUDA 커널 235개를 3주 만에 38% 빠르게 만들었다.

·1·2026.04.15 09시

CUDA에 도전하는 ROCm: ‘한 걸음씩 나아가기’

AMD가 ROCm으로 CUDA 생태계에 맞서는 전략을 강화한다.

·1·2026.04.15 07시

vLLM CUDA 정수 오버플로우

vLLM Mamba CUDA 커널의 32비트 오버플로우가 logprob 불일치를 만들었다.

·1·2026.03.25 17시

NVIDIA GTC 2026: AI의 미래를 향한 실시간 업데이트

NVIDIA가 GTC 2026에서 CUDA 20주년과 DLSS 5를 공개하며 폭발적인 AI 컴퓨팅 수요에 따른 성장 전략을 발표했다.

·2026.03.20 09시

AI 에이전트용 CUDA 커널 작성 기술 공개

HuggingFace가 AI 에이전트가 CUDA 커널을 직접 작성할 수 있도록 돕는 새로운 스킬을 공개했다.

·1·2026.02.13 09시

vLLM의 Mamba 버그 디버깅

드물게 발생하는 gibberish 원인을 vLLM의 Mamba scheduler와 cache에서 찾아냈다.

·2026.01.29 21시

Hugging Face, CUDA 커널 빌드 도구 공개

Hugging Face가 커스텀 CUDA 커널의 개발부터 배포까지 지원하는 kernel-builder 라이브러리를 공개했다.

·1·2025.08.18 09시

Hugging Face, Kernel Hub 공개

Hugging Face가 최적화된 연산 커널을 쉽게 불러와 모델 성능을 높일 수 있는 Kernel Hub를 공개했다.

·1·2025.06.12 09시

PyTorch GPU 메모리 시각화 가이드

PyTorch의 메모리 스냅샷 기능을 활용해 GPU 메모리 사용량을 시각화하고 분석하는 방법을 설명한다.

·2024.12.24 09시