ICML 채택, SRM-LoRA 기반 환각 완화 기술

ICML 워크숍에 채택된 SRM-LoRA(Sub-Riemannian-Metric Updates for Mitigating LLM Hallucination in Low-Rank Adaptation)는 LLM의 환각(Hallucination) 현상을 줄이기 위해 설계된 새로운 LoRA 기법입니다.

이 방법론은 서브 리만 기하학(Sub-Riemannian geometry) 개념을 도입하여, LoRA 파라미터 공간 내에서 백프로파게이션(Backpropagation) 그래디언트의 형태를 재구성합니다. 민감도 기반의 리만 메트릭(Riemannian metric)을 구축함으로써, 추론 비용은 늘리지 않으면서도 환각을 유발하는 고비용 업데이트 방향을 억제합니다.

주요 특징 및 결과:

• HaluEval-QA 데이터셋만을 사용하여 학습을 진행했습니다.
• 관련 데이터뿐만 아니라 Out-of-distribution(OOD) 벤치마크에서도 사실적 신뢰성(Factual reliability)이 향상됨을 입증했습니다.
• 기존의 학습 신호와 별개로, 손실 함수에 대한 파라미터 변화율을 기반으로 리만 메트릭을 구성하여 일반화 성능을 높였습니다.