#h100
#h100와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#h100와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
H100 SXM 80GB 온디맨드 가격은 RunPod와 Azure 간 4.57배 차이로 나타났다
Linum AI가 $21,038로 학습한 2B 픽셀 스페이스 텍스트-이미지 모델 P-JiT를 공개했다.
Llama 3.3 70B와 DeepSeek V4 Pro의 GPU 요구사항을 추정하는 계산기가 공개됐다.
Quail이 단일 H100 GPU에서 분당 10억 토큰을 처리하며 vLLM 대비 10배 이상의 속도를 달성했다.
Cohere가 North Mini Code 모델용 Megakernel serving 엔진을 공개해 H100 단일 BF16 환경에서 vLLM 대비 최대 1.41배의 end-to-end 추론 속도 향상을 달성했다.
AI 모델의 지능이 높아짐에 따라 동일한 컴퓨팅 자원으로 창출하는 가치가 커지며 컴퓨팅 비용이 급격히 상승할 것이다.
GPU 대여 시장에서 실제 워크로드에 필요한 다수의 동일 GPU 클러스터 공급은 단일 GPU 공급보다 훨씬 제한적이며 가격 구조도 다르다.
Unweight는 H100에서 LLM 가중치를 15~22% 줄이면서 출력은 bit-exact로 유지한다.