AI BriefingBerth v0.4.1, AI 및 게임 워크로드 GPU 리스 관리로 라이브 스왑 지원
Live-Swap CUDA Workloads: llama.cpp, ComfyUI, Strata & More
·2026.11.02 12:36
핵심 내용
Berth v0.4.1이 CUDA 워크로드 라이브 스왑을 지원하며 NVIDIA Linux를 중심으로 알파 공개했다
자세히 보기
- Go 언어로 작성된 경량 GPU 리소스 매니저 Berth는 리스, 우선순위, 요청 큐를 통해 애플리케이션 접근을 제어하여 VRAM 충돌을 방지함
- 시스템 RAM에 엔진을 주차하거나 NVIDIA CUDA 체크포인트를 활용하여 반복적인 디스크 로드를 피하면서 CUDA 워크로드의 라이브 스왑을 지원함
- OpenAI 호환 API, ComfyUI 워크플로 지원, VRAM 및 온도, 활성 리스 모니터링을 위한 웹 대시보드 제공
- 현재 알파 버전(v0.4.1)으로 Linux NVIDIA를 지원하며, 실험적 AMD Linux 및 Windows 지원이 포함되고 클라우드 계정이나 추가 모니터링 서비스가 불필요함
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
