Apple 연구, LLM 조건화 시 유창성 상충 및 instruction-tuned 모델에서 activation steering 효과 감소 확인

Apple 연구진이 Large Language Model(LLM) 조건화 시 효과와 유창성 사이의 상충 관계를 체계적으로 분석했다. LLM 출력 제어는 신뢰성 있는 배포에 필수적이지만, 기존 방법들은 개념 주입이나 제거 능력만 평가하고 생성 품질은 간과해 왔다.

조건화 방법의 주요 발견

효율적인 스티어링 방법은 조건화 목표를 달성하는 대신 유창성을 크게 희생하는 경우가 많다. 또한 훈련 패러다임과의 상호작용이 중요한데, activation steering 방법은 base 모델보다 instruction-tuned 모델에서 효과가 현저히 낮다.

대안적 접근법의 타당성

연구진은 단순 프롬프트와 전체적인 supervised fine-tuning이 개념 주입에는 유효한 선택지임을 확인했다. 다만, 이 방법들은 개념 제거에는 덜 효과적이다.

평가 지표

연구는 저렴하게 계산되는 텍스트 기반 지표가 비용이 많이 드는 LLM-as-judge 점수와 높은 상관관계가 있음을 입증했다. 이러한 지표는 고가의 평가 자원 없이도 다양한 조건화 방법의 행동을 파악하는 데 유용하다.