ChatGPT의 언어적 편향과 모드 붕괴

ChatGPT가 영어권에서는 'goblins'나 특정 문장 구조를 반복하고, 중국어권에서는 "내가 너를 안정적으로 붙잡아줄게(我会稳稳地接住你)"라는 부자연스럽고 과도하게 다정한 표현을 반복하는 현상이 나타나고 있다.

이러한 현상은 AI 모델이 특정 문구에 과도하게 집착하는 **'모드 붕괴(Mode Collapse)'**로 설명된다. 이는 모델의 답변 품질을 높이기 위한 사후 학습(post-training) 과정에서, 특정 답변 형식이 '좋은 답변'으로 과도하게 피드백될 때 발생하는 부작용이다.

중국어 사례의 주요 원인은 다음과 같다:

• 번역 오류: 영어의 "I've got you"를 직역하여 문맥에 맞지 않는 부자연스러운 표현이 생성됨.
• 언어적 편향: 영어 중심의 데이터로 학습된 모델이 중국어 답변 시에도 영어식 문장 구조나 논리 체계를 따르는 경향.

이 현상은 중국 인터넷상에서 밈(meme)으로 소비되고 있으며, OpenAI 연구진 또한 이를 인지하고 있음을 시사하는 사례를 공개한 바 있다.