LG AI Research 381
·2026.07.16 09:00
NeurIPS 2023에서 발표된 LLM의 성능, 안전성, 효율성 및 도구 활용 능력을 다룬 최신 연구 동향을 정리했다.
NeurIPS 2023에서는 **LLM(Large Language Model)**의 성능 향상뿐만 아니라 신뢰할 수 있는 평가, 인간과의 Alignment, 훈련 및 추론 최적화, 그리고 Privacy/Bias 등 다양한 주제가 다뤄졌다.
주요 연구 동향은 다음과 같다.
- LLM 성능 및 안전성: LLM의 창발적 능력(Emergent Abilities)이 실제 능력이 아닌 평가 지표(Metric)의 특성일 수 있음을 지적하고, Safety Training이 특정 상황에서 실패하는 이유를 분석했다.
- 도구 활용(Tools): 모델이 외부 API를 스스로 학습하여 사용하는 Toolformer와, 도구를 토큰화하여 효율적으로 사용하는 ToolkenGPT 연구가 소개되었다.
- 효율적 학습(Efficient Learning): 4-bit 양자화 상태로 파라미터를 미세 조정하는 QLoRA와, 데이터가 제한적인 상황에서 Multi-epoch 학습의 영향을 분석한 연구가 발표되었다.
- 신뢰성 평가(Trustworthiness): 모델의 독성, 편향성, 강건성 등을 종합적으로 평가하는 DecodingTrust 벤치마크를 통해 GPT-4와 같은 고성능 모델의 잠재적 위험성을 경고했다.
- 강화 학습(RL): 보상 모델을 별도로 구축하지 않고 선호도를 직접 최적화하는 DPO(Direct Preference Optimization) 연구가 주목받았다.
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.