AI Briefing#gpu
#gpu와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#gpu와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
인텔이 HBM 부족 문제를 해결하기 위해 160GB LPDDR5X 메모리를 탑재한 차세대 Xe3P 데이터 센터 GPU를 준비 중이다.
AI 추론 비용의 급락은 소프트웨어가 주도하고 있으며, 로컬 오픈 모델이 프론티어 모델의 성능을 빠르게 추격하고 있다.
Meta가 루이지애나에 건설 중인 100억 달러 규모 AI 데이터센터에 대해 33억 달러의 세금 감면을 받는다
AWS EFA 위에서 NCCL이 GPU 집합 통신을 최적화하는 방식을 설명했다.
Rust 코드를 PTX로 직접 컴파일하여 안전한 GPU 커널 작성을 지원하는 Nvidia의 실험적 컴파일러 cuda-oxide가 공개되었습니다.
llama.cpp b9095 업데이트로 Blackwell PCIe GPU에서 NCCL 없이 텐서 병렬 처리가 가능해졌다.
Anthropic이 SpaceX의 Colossus 1 인프라를 통해 대규모 GPU를 확보하며 Claude API 및 Claude Code의 사용 한도를 대폭 확대했다.
Anthropic이 Claude 서비스 용량 확대를 위해 SpaceXAI의 슈퍼컴퓨터 자원을 사용하기로 했다.
Anthropic이 SpaceX와 연산 용량 계약을 맺고 Claude Code 사용 한도와 API 요청 한도를 높였다.
Hugging Face 사용자 데이터를 분석한 결과, AI 빌더들은 연산 성능보다 VRAM 용량을 중시하는 경향을 보였다.
RTX 5080 16GB에서 Qwen3.6-35B-A3B가 128K에 30 t/s, 새 토큰 89 t/s를 기록했다.