LLM이 우리의 글을 왜곡하는 방식

전 세계 10억 명 이상이 쓰는 LLM의 가장 흔한 용도는 글쓰기 보조다. 하지만 편집 결과는 문법 보정이 아니라 글의 의미, 논지, 목소리를 함께 바꾸는 쪽으로 나타났다.

MiniLM-L6 임베딩 공간에서 인간이 고친 글은 넓게 퍼졌지만, LLM 수정본은 인간 글이 거의 차지하지 않는 좁은 영역으로 모였다. 같은 문장을 고쳐도 LLM은 인간 편집과 다른 방향으로 글을 밀어내며 의미를 평준화했다.

• Human user study: 55명에게 LLM 사용을 허용하고 45명은 사용하지 못하게 한 뒤, 실제 사용 정도에 따라 LLM-Influenced와 LLM 그룹으로 나눴다. 적극 사용자들은 결과에 만족했지만, 자기 목소리와 창의성이 줄었다는 선호의 역설이 확인됐다.
• ArgRewrite-v2: 2021년 수집된 86편의 인간 논설문을 gpt-5-mini, gemini-2.5-flash, claude-haiku가 일반 수정, 최소 수정, 문법 수정, 완성, 확장 방식으로 편집했다. 문법만 고치라는 지시에도 인간 수정보다 훨씬 큰 semantic shift가 발생했고, 글은 더 중립적이고 형식적이며 분석적인 방향으로 바뀌었다. 사적 경험보다 통계·논리·전문가 인용이 늘고, 긍정·부정 정서어도 함께 증가했다.
• ICLR 2026: 1만8천 건의 리뷰를 분석한 결과, 약 **21%**가 AI 생성으로 판별됐다. LLM 리뷰는 인간보다 점수가 약 10% 높았고, 인간은 명확성과 연구 관련성을 더 자주 언급하는 반면 LLM은 재현성과 확장성을 더 강조했다.

결국 LLM은 문장을 매끈하게 다듬는 데서 멈추지 않고, 결론과 평가 기준까지 바꿀 수 있다. 편리함은 커졌지만, 정치·문화·과학과 일상 대화에서 고유한 관점이 희석될 수 있다는 경고다.