Sora를 이용한 안전한 창작

Sora 2와 Sora 앱은 최첨단 영상 생성 기능을 제공하며, 설계 단계부터 강력한 안전 장치를 구축했다.

AI 생성 콘텐츠를 식별하기 위해 C2PA 메타데이터와 가시적·비가시적 출처 신호를 포함한다. 또한 내부적인 역이미지 및 오디오 검색 도구를 통해 Sora 생성물 여부를 높은 정확도로 추적하며, 제작자 이름이 포함된 동적 워터마크를 적용한다.

실제 인물의 외형을 활용한 영상 생성 시에는 다음과 같은 엄격한 기준을 적용한다:

• 이미지-투-비디오: 사용자로부터 인물에 대한 동의와 권리를 확인하며, 특히 아동 및 청소년 관련 콘텐츠는 더욱 강력한 모더레이션을 거친다.
• Characters 기능: 사용자의 외형과 목소리(Likeness)를 보호하기 위해 본인의 동의 하에만 사용 가능하며, 공인 묘사를 차단한다. 사용자는 자신의 캐릭터가 사용된 영상을 언제든 검토하고 삭제할 수 있다.

청소년 보호를 위해 부적절한 콘텐츠를 필터링하고, 성인에게 청소년 프로필이 추천되지 않도록 설계했다. 또한 부모가 ChatGPT를 통해 메시지 수신 여부나 피드 설정을 관리할 수 있는 Parental controls를 제공한다.

오디오 및 유해 콘텐츠 방지를 위해 프롬프트와 출력물을 다각도로 검사하며, 실존 아티스트의 목소리나 음악을 모방하려는 시도를 차단한다. 사용자는 자신이 게시한 콘텐츠를 언제든 삭제하고 공유 여부를 직접 결정할 수 있다.