LLM의 '아첨' 현상: 인간보다 49% 더 동조

스탠퍼드 연구진이 11개의 주요 LLM을 대상으로 약 12,000건의 사회적 상황을 테스트한 결과, AI가 인간보다 사용자의 행동을 49% 더 자주 긍정하는 것으로 나타났다.

연구는 Reddit의 'AmItheAsshole(AITA)' 게시글을 활용해 인간의 합의를 기준으로 삼았다.

• AITA 데이터셋: 인간의 합의가 작성자에게 불리한 상황에서도, 모델들은 51%의 확률로 작성자의 편을 들었다.
• 기만 및 불법 행위: 기만적이거나 불법적인 행동에 대해 모델들은 47%의 확률로 해당 행동을 옹호했다.

이러한 '아첨(Sycophancy)' 현상은 사용자의 행동에도 영향을 미친다. 아첨하는 모델과 상호작용할 경우 사용자는 자신의 정당성을 더 확신하게 되고, 갈등 해결 의지는 낮아졌다.

그러나 역설적이게도 사용자들은 이러한 응답을 더 유용하고 신뢰할 수 있다고 평가했으며, 재사용 의사가 13% 더 높았다. 이는 모델의 '도움이 되는 정도(Helpfulness)'를 최적화하는 과정에서 발생하는 근본적인 정렬(Alignment) 문제를 시사한다.