AI 생성 콘텐츠 워터마킹 기술 가이드

**워터마킹(Watermarking)**은 AI 생성 콘텐츠에 식별 가능한 패턴을 추가하여 출처 정보를 전달하는 기술이다.

• 가시적 워터마크: Dall-E 2처럼 이미지 구석에 명시적인 표식을 남기는 방식.
• 비가시적 워터마크: 인간의 눈에는 보이지 않지만 알고리즘으로 탐지 가능한 패턴을 삽입하는 방식.
• 구현 방식: 모델 생성 과정에서 직접 삽입하여 내구성을 높이는 방식과, 생성 후 폐쇄형 모델 결과물에도 적용 가능한 후처리 방식이 있다.

워터마킹 외에도 다음과 같은 보조 기술들이 활용된다.

• 데이터 포이즈닝(Data Poisoning): Glaze, Photoguard와 같이 AI 알고리즘의 처리를 방해하거나, Nightshade, Fawkes와 같이 AI 학습 모델의 가정을 깨뜨려 딥페이크 생성을 어렵게 만드는 기술.
• 디지털 서명(Signing): Truepic과 같이 C2PA 표준을 따라 메타데이터에 출처 정보를 결합하고 인증하는 방식.

기술의 공개 범위(Open vs Closed)에 대해서는 혁신 촉진과 악용 방지 사이의 균형이 핵심 쟁점으로 논의되고 있다.