Hugging Face, Gemma 모델 PEFT 가이드 공개

Google DeepMind의 오픈 웨이트 모델인 Gemma(2B, 7B)를 Hugging Face의 PEFT(Parameter Efficient Fine-Tuning) 라이브러리를 통해 효율적으로 미세 조정하는 방법을 다룬다.

전체 가중치를 학습시키는 방식은 막대한 컴퓨팅 자원이 필요하므로, 메모리 사용량을 줄이고 비용을 최적화할 수 있는 LoRA(Low-Rank Adaptation)와 QLoRA(4-bit 양자화 적용) 기술 활용을 권장한다.

주요 특징은 다음과 같다:

• 하드웨어 호환성: PyTorch 및 PyTorch/XLA를 지원하여 GPU와 Cloud TPU 환경 모두에서 실험이 가능하다.
• 메모리 효율성: bitsandbytes 라이브러리를 활용한 4-bit 양자화를 통해 Colab이나 Kaggle 같은 제한된 리소스 환경에서도 학습이 가능하다.
• 간편한 구현: Hugging Face의 transformers 및 peft 라이브러리를 사용하여 LoraConfig 설정만으로 특정 레이어에 어댑터를 적용할 수 있다.