AI Briefing#peft
#peft와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#peft와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
동일한 하드웨어와 데이터셋 환경에서 LoRA 파인튜닝 속도를 겨루는 공개 리더보드가 출시되었습니다.
ACL 2024에서 논의된 LLM의 신뢰성 평가 방법론과 효율성 향상을 위한 최신 연구 트렌드를 살펴본다.
저장 공간이 제한된 온디바이스 환경에서 데이터 없이도 LLM의 능력을 지속적으로 확장하는 K-Merge 프레임워크를 제안한다.
가중치 행렬의 minor singular subspace를 활용하여 학습 효율을 높인 MiCA가 PEFT 라이브러리에 통합되었습니다.
FuriosaAI가 ICML과 ACL에서 모델 효율성, 추론 능력, 유연성을 높이는 6편의 연구 논문을 발표했다.
Diffusers와 PEFT를 사용하여 Flux 모델의 LoRA 추론 속도를 약 2.3배 향상시키는 최적화 방법을 공개했다.
OpenAI가 fine-tuning API 기능을 개선하고 custom models 프로그램을 통해 맞춤형 모델 지원을 확대한다.
Hugging Face가 Gemma 모델을 효율적으로 미세 조정할 수 있는 PEFT 및 QLoRA 활용 가이드를 공개했다.
Hugging Face의 PEFT 라이브러리가 LoRA 어댑터를 효율적으로 결합할 수 있는 새로운 병합 방법을 지원한다.
Hugging Face의 오픈 소스 LLM 모델, 라이선스, 서빙 도구 및 PEFT 기술을 정리한 가이드이다.
Hugging Face가 TRL과 PEFT를 통합하여 소비자용 GPU에서도 20B 규모의 LLM RLHF 학습이 가능하도록 지원한다.