온라인에서 보고 듣는 콘텐츠의 출처 이해하기

OpenAI는 온라인 콘텐츠의 진위 여부를 파악할 수 있도록 새로운 도구를 도입하고, C2PA(Coalition for Content Provenance and Authenticity) 운영위원회에 합류한다. 이는 생성형 AI로 제작된 시청각 콘텐츠가 급증함에 따라 콘텐츠의 출처를 투명하게 공개하기 위한 조치다.

텍스트 출처 기술 연구에서는 텍스트 워터마킹과 메타데이터 방식을 중점적으로 검토하고 있다. 워터마킹은 높은 정확도를 보이지만, 번역이나 다른 모델을 이용한 재구성 등 광범위한 조작에는 취약하며 비영어권 사용자에 대한 편향을 초래할 위험이 있다. 반면, 암호화 서명이 가능한 메타데이터 방식은 오탐(false positive)이 없다는 점에서 유망한 대안으로 평가받는다.

이미지 분야에서는 C2PA 표준 메타데이터를 제품에 통합하고 있다. DALL-E 3로 생성한 이미지를 ChatGPT에서 편집할 경우, 사용된 앱과 도구, 수행된 편집 작업 등 전체 이력이 C2PA 인증을 통해 투명하게 기록되어 콘텐츠의 생성 및 수정 과정을 추적할 수 있다.