Unsloth, AMD GPU 지원 공식 출시
Unsloth now supports AMD!
·2026.07.20 23:48
Unsloth가 AMD GPU를 활용한 로컬 LLM 추론 및 파인튜닝 기능을 공식 지원한다.
LLM 파인튜닝 라이브러리인 Unsloth가 AMD 하드웨어에 대한 공식 지원을 시작했습니다. 이번 업데이트를 통해 Windows, Linux, WSL 환경에서 AMD GPU를 활용한 로컬 추론, 파인튜닝, 강화 학습(RL) 및 배포가 가능해졌습니다.
주요 지원 사항:
- 하드웨어: Radeon RX 7000/9000 시리즈, Instinct MI300/MI350, Strix Halo/Ryzen AI Max 시스템 및 AMD CPU(GPU 미사용 추론 시)
- 최적화 기술: ROCm, Triton, bitsandbytes, PyTorch, llama.cpp 최적화 빌드 자동 설치 지원
- 성능 이점: 기존 대비 VRAM 사용량을 최대 70% 절감하며, 강화 학습 시에는 최대 80%까지 절감 가능
- 호환 모델: Qwen, Gemma, DeepSeek, GLM, Kimi, MiniMax, DiffusionGemma 등 주요 모델 지원
- 기타 기능: 모델을 GGUF, safetensors, LoRA 어댑터로 내보내기 가능하며, Claude Code, Hermes Agent 등 다양한 에이전트 도구와 연결 가능
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.