AI Briefing

Unsloth, AMD GPU 지원 공식 출시

Unsloth now supports AMD!

·2026.07.20 23:48

핵심 내용

Unsloth가 AMD GPU를 활용한 로컬 LLM 추론 및 파인튜닝 기능을 공식 지원한다.

자세히 보기

LLM 파인튜닝 라이브러리인 Unsloth가 AMD 하드웨어에 대한 공식 지원을 시작했습니다. 이번 업데이트를 통해 Windows, Linux, WSL 환경에서 AMD GPU를 활용한 로컬 추론, 파인튜닝, 강화 학습(RL) 및 배포가 가능해졌습니다.

주요 지원 사항:

  • 하드웨어: Radeon RX 7000/9000 시리즈, Instinct MI300/MI350, Strix Halo/Ryzen AI Max 시스템 및 AMD CPU(GPU 미사용 추론 시)
  • 최적화 기술: ROCm, Triton, bitsandbytes, PyTorch, llama.cpp 최적화 빌드 자동 설치 지원
  • 성능 이점: 기존 대비 VRAM 사용량을 최대 70% 절감하며, 강화 학습 시에는 최대 80%까지 절감 가능
  • 호환 모델: Qwen, Gemma, DeepSeek, GLM, Kimi, MiniMax, DiffusionGemma 등 주요 모델 지원
  • 기타 기능: 모델을 GGUF, safetensors, LoRA 어댑터로 내보내기 가능하며, Claude Code, Hermes Agent 등 다양한 에이전트 도구와 연결 가능

이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.

AI 처리 방식을 확인하거나, 요약 오류와 출처 표기 문제, 삭제 요청을 문의 · 건의로 알려주세요.