교차 문화적 고려사항을 반영한 대규모 언어 모델(LLM) 개발 - LG AI Research 블로그

최근 NLP 기술이 급격히 발전하며 모델의 크기와 데이터 양이 폭발적으로 증가하고 있다. 하지만 인간의 사고와 행동은 속한 문화에 따라 깊게 연결되어 있으므로, 모델이 인간을 모방할 때 문화적 요소를 간과해서는 안 된다.

LG AI Research는 한국에서 LLM을 처음부터 학습 및 배포할 수 있는 몇 안 되는 조직 중 하나로, 최근 한국어와 영어 벤치마크에서 우수한 성능을 보이는 EXAONE 3.0 7.8B 모델을 공개했다. 이번 글에서는 ACL 2024의 C3NLP 워크숍에서 논의된 문화적 정렬(Cultural Alignment) 연구를 다룬다.

문화적 정렬 측정을 위한 벤치마크

• CDEval: 홉스테데(Hofstede)의 문화 차원 이론을 바탕으로 권력 거리, 개인주의/집단주의, 불확실성 회피 등 6가지 문화적 차원을 측정한다.
• KoBBQ: 기존 BBQ 벤치마크가 한국 문화의 특수성을 반영하지 못하는 점을 보완하여, 한국 문화에 특화된 사회적 편향을 측정하도록 설계되었다.

모델링 연구 단순히 성능을 측정하는 것을 넘어, 모델이 어떻게 문화적으로 정렬되는지도 중요하다. 기존의 정렬 데이터셋은 주로 영어권 사용자의 선호도를 반영하므로, 이를 단순히 번역하는 것만으로는 해당 언어 사용자의 문화적 선호도를 완벽히 학습할 수 없다. 연구에서는 상식적 도덕성(Commonsense Morality)을 기준으로 문화적 정렬이 모델의 판단에 미치는 영향을 분석하고 있다.