LG AI Research: ACL 2024에서 발표된 AI 생성 텍스트 탐지 기술 요약

LLM의 발전으로 텍스트 생성 능력이 비약적으로 향상됨에 따라, 잘못된 정보 확산이나 윤리적 문제를 방지하기 위한 AI 생성 텍스트 탐지(MGT) 기술의 중요성이 커지고 있다.

대표적인 기존 기술인 DetectGPT는 텍스트를 미세하게 변형했을 때 발생하는 언어 모델의 로그 가능도(log-likelihood) 변화를 이용한다. AI가 생성한 텍스트는 미세한 변형 시 로그 가능도가 급격히 변하는 '음의 곡률(negative curvature)' 특성을 보인다는 점을 활용하며, 별도의 추가 학습 없이도 탐지가 가능하다는 장점이 있다.

하지만 최근 연구들에 따르면, 이러한 미세 변형 기반의 방식은 적대적 공격(adversarial perturbations)에 취약하다는 한계가 지적되고 있다. 이에 따라 ACL 2024에서는 기존 기술의 한계를 보완하거나, 고전적인 자연어 처리(NLP) 통찰을 결합한 새로운 접근법, 그리고 탐지 모델의 성능을 정량적으로 측정하기 위한 새로운 벤치마크 연구들이 다수 발표되었다.