#airllm와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
AirLLM이 희소 MoE 모델 스트리밍으로 Kimi K3(2.8T)를 4GB VRAM에서 구동 가능하게 업데이트했다.
AirLLM이 4GB GPU에서 70B 모델을 구동하는 메모리 절감 방식을 공개했다.