오픈소스 GPU 관측 도구 l9gpu 공개
l9gpu - open-source GPU observability with workload-level attribution [P]
·2026.05.21 10:49
핵심 내용
워크로드별 GPU 사용량을 추적할 수 있는 오픈소스 GPU 관측 도구 l9gpu가 공개되었습니다.
자세히 보기
l9gpu는 하드웨어 수준의 메트릭을 넘어, 어떤 실험이나 팀, 작업이 GPU를 점유하고 있는지 파악할 수 있게 해주는 노드 레벨 에이전트입니다.
주요 기능 및 특징:
- Kubernetes 연동: GPU 메트릭을 Pod, Namespace, Deployment와 연관 지어 제공
- Slurm 지원: Job ID, 사용자, 파티션별로 메트릭 매핑
- LLM 추론 최적화: vLLM, SGLang, TGI를 위한 네이티브 메트릭 지원
- 멀티 벤더 하드웨어 지원: NVIDIA, AMD MI300X, Intel Gaudi 지원
- 표준화된 데이터 출력: OTLP를 통해 메트릭을 내보내며, 17개의 Prometheus 알람 규칙과 Grafana 대시보드 포함
Meta의 gcm 프로젝트를 기반으로 개발되었으며, Kubernetes 속성 매핑 및 멀티 벤더 지원 기능이 확장되었습니다. MIT 라이선스로 배포됩니다.
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.