더 안전하고 투명한 AI 생태계를 위한 콘텐츠 출처 증명 고도화

OpenAI는 Content Credentials와 SynthID를 결합한 다층 출처 증명 체계를 강화했다. 최근 C2PA 규격에 맞는 생성기 제품이 되면서, 2024년부터 DALL·E 3, ImageGen, Sora에 붙여 온 출처 신호를 다른 도구와 플랫폼이 더 잘 읽고, 보존하고, 전달할 수 있게 했다.

C2PA 메타데이터는 콘텐츠의 생성·편집 정보를 담지만 업로드, 다운로드, 리사이즈, 스크린샷 같은 변형 과정에서 사라질 수 있다. 이를 보완하기 위해 Google과 협력해 이미지에 보이지 않는 SynthID 워터마크를 넣고, ChatGPT, Codex, OpenAI API에서 생성한 이미지부터 적용한다.

공개용 검증 도구도 미리 공개했다. 이는 2024년 공개한 이미지 탐지 분류기 연구 미리보기를 잇는 후속 단계다. 사용자는 업로드한 이미지가 OpenAI 도구로 생성됐는지 확인할 수 있고, 도구는 Content Credentials와 SynthID를 함께 검사해 신호가 있으면 메타데이터를 보여 준다. 신호가 없으면 생성 여부를 단정하지 않으며, 초기에는 OpenAI 생성 이미지로만 제한된다. 향후에는 플랫폼 간 검증과 더 많은 콘텐츠 유형 지원을 넓힐 계획이다.