[ACL 2024] AI 생성 텍스트 탐지 최신 연구 동향 - LG AI Research BLOG

LLM의 발전과 함께 AI가 생성한 텍스트(MGT)를 효과적으로 탐지하는 기술의 중요성이 커지고 있다. 2024년 8월 개최된 ACL 2024에서도 다양한 탐지 기법들이 발표되었다.

대표적인 기존 기법인 DetectGPT는 텍스트를 변형(Perturbation)했을 때 언어 모델의 로그 확률이 음의 곡률을 가진다는 점을 이용한다. 별도의 추가 학습 없이도 높은 성능을 보이지만, 악의적인 변형(Adversarial Perturbation)에는 취약하다는 한계가 있다.

최근 연구인 PeCoLa는 이러한 한계를 극복하기 위해 **선택적 교란 기법(Selective Perturbation)**을 제안한다. 이는 텍스트의 중요도를 평가하여 핵심 정보는 보존하면서 변형을 가하는 방식이다.

PeCoLa는 다음과 같은 특징을 갖는다.

• YAKE 알고리즘을 확장하여 토큰의 중요도를 판별
• 중요한 의미를 지닌 토큰은 마스킹에서 제외하여 문맥 유지
• Contrastive Learning을 결합하여 AI와 인간의 텍스트를 더욱 정교하게 구분