GPU-Usage-Audit: GPU가 단순히 노는 게 아니라 '메모리를 점유한 채' 놀고 있다면?!
·2026.05.27 10:09
GPU의 실제 연산 시간과 메모리 점유 상태를 구분하여 자원 낭비를 추적하는 오픈소스 도구입니다.
nvidia-smi 상의 사용률(util)이 낮더라도, 주피터 노트북 등이 GPU 메모리를 점유하고 있으면 다른 사용자가 해당 자원을 사용할 수 없습니다. 이는 공유 서버나 시간당 과금되는 GPU 환경에서 심각한 비용 낭비로 이어집니다.
GPU-Usage-Audit은 NVIDIA 드라이버를 통해 GPU 메트릭을 SQLite에 기록하고 상세 리포트를 제공하는 도구입니다. 기존 도구들과 달리 GPU 사용 시간을 세 가지 상태로 정밀하게 구분하여 분석합니다.
- 실제 연산 시간: GPU가 실제로 연산을 수행하는 시간
- 완전 유휴 상태: GPU가 완전히 비어 있는 시간
- 메모리 점유 유휴 상태 (idle-held): 메모리는 점유하고 있지만 연산은 수행하지 않는 시간
이 도구는 '잡아둔 시간'을 GPU-hours로 환산하여 보여주며, 유저별 점유 현황을 파악할 수 있게 해줍니다. uv tool install gpu-usage-audit 명령어로 간편하게 설치 및 실행이 가능합니다.
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.
