#model-merging
#model-merging와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#model-merging와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
저장 공간이 제한된 온디바이스 환경에서 데이터 없이도 LLM의 능력을 지속적으로 확장하는 K-Merge 프레임워크를 제안한다.
리우 시정부의 자체 개발 모델이 실제로는 기존 모델들의 가중치 병합(Merge) 결과라는 의혹이 제기됨.
SFT와 DPO 및 모델 병합을 통해 개발된 Kanana LLM이 LogicKor 등 한국어 벤치마크에서 유사 규모 모델 대비 월등한 성능을 입증했다.
Hugging Face의 PEFT 라이브러리가 LoRA 어댑터를 효율적으로 결합할 수 있는 새로운 병합 방법을 지원한다.