텍스트 AI 워터마크는 항상 제거하기 쉬울 것이다

EU AI Act의 시행이 다가옴에 따라, AI 생성 콘텐츠를 식별할 수 있는 워터마크(Watermark) 적용이 LLM 제공업체의 핵심 요구사항으로 부상하고 있습니다.

텍스트 워터마킹은 이미지와 달리 매우 압축된 매체라는 특성 때문에 구현이 매우 어렵습니다. 이미지와 달리 텍스트는 미세한 수정만으로도 가독성이 떨어지거나 문맥이 깨질 수 있어, 품질을 유지하면서 암호를 숨기는 텍스트 스테가노그래피(Text Steganography) 기술이 요구됩니다.

현재 구글이 선보인 SynthID는 토큰 샘플링 과정을 조절하는 방식을 사용합니다:

• LLM이 다음 토큰을 선택할 때, 이전 토큰들과의 수학적 관계를 기반으로 각 토큰에 특정 **점수(Score)**를 부여합니다.
• 모델이 샘플링 단계에서 이 점수 패턴을 따르도록 유도하여, 인간은 인지할 수 없지만 통계적으로는 식별 가능한 패턴을 생성합니다.
• 이를 통해 검증 비용을 낮추면서도 텍스트의 품질을 유지할 수 있습니다.

하지만 이러한 방식 역시 텍스트의 구조적 특성상 완벽한 방어책이 되기 어렵다는 기술적 한계가 존재합니다.