AI Briefing#gpu-acceleration
#gpu-acceleration와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#gpu-acceleration와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
mlxVS가 Apple Silicon에서 CAGRA로 69,500 queries/s 성능을 달성했다
Meta FAIR의 e-means는 k-means보다 10배 빠르고 손실이 낮다.
humans&의 Weight Teleportation이 RL 샘플러 일시 정지 시간을 0.23초로 단축했다.
유럽 금융사들이 NVIDIA 인프라와 오픈 모델로 자체 지능을 구축하고 비용을 최적화했다.
SO-101 로봇 암을 최대 2,048개의 병렬 GPU 환경으로 확장하는 마이그레이션 절차와 성능 튜닝 팁을 제시했다.
Rust로 개발된 GPU 가속 이미지 편집기 C-Shop이 공개되어 스크립트 기반의 LLM 에이전트 제어를 지원한다.
Meta가 추천 모델 추론 시 발생하는 중복 데이터 복제 오버헤드를 제거하는 IKBO 기술을 공개했다.
NVIDIA가 천문학, 재료 과학 등 다양한 과학 분야의 연구 속도를 높이기 위한 새로운 AI 소프트웨어 라이브러리를 선보였다.
NVIDIA가 Google DeepMind의 새로운 확산 기반 모델 DiffusionGemma를 RTX 및 DGX 시스템에서 최대 4배 빠르게 실행하도록 최적화했다.
OpenAI Triton을 활용해 NVIDIA와 AMD 모두 지원하는 고성능 MoE 추론 커널을 개발했다.
llama.cpp에 Mistral Small 4용 DKQ=320/DV=256 flash-attn CUDA 지원이 추가됐다.
Adobe Premiere에 NVIDIA GPU 가속 컬러 그레이딩 모드 베타가 추가됐다.
스냅이 NVIDIA cuDF를 도입해 Apache Spark 기반 A/B 테스트의 데이터 처리 속도를 4배 높이고 비용을 76% 절감했다.
10월 23일 열리는 4개 세션에서 네트워크 모니터링, GPU 가속, LSP 개발 및 C++ 패러다임 변화를 다룬다.
Hugging Face가 AMD Instinct GPU에서 별도 코드 수정 없이 LLM을 실행할 수 있는 최적화 지원을 발표했다.
Hugging Face와 AMD가 파트너십을 맺고 AMD CPU 및 GPU에서 트랜스포머 모델 성능을 최적화한다.