Sora의 책임감 있는 출시

Sora 2와 Sora 앱은 최첨단 비디오 생성 기술을 제공함과 동시에, 설계 단계부터 강력한 안전 장치를 통합했다.

주요 보호 조치는 다음과 같다:

• AI 콘텐츠 식별: 모든 생성 비디오에는 가시적 워터마크와 C2PA 메타데이터가 포함된다. 또한 내부적인 역이미지 및 오디오 검색 도구를 통해 Sora 생성물 여부를 정확히 추적할 수 있다.
• 초상권 및 캐릭터 보호: 사용자가 자신의 외형(likeness)을 직접 제어할 수 있는 Sora characters 기능을 제공한다. 공인 묘사를 차단하며, 사용자는 자신의 캐릭터가 포함된 영상을 검토하거나 삭제할 수 있다.
• 청소년 보호: 미성년 사용자를 위해 성인용 콘텐츠 노출을 제한하고, ChatGPT의 새로운 부모 통제 기능을 통해 메시지 수신 및 피드 설정을 관리할 수 있다.
• 유해 콘텐츠 필터링: 프롬프트와 출력물을 다각도로 검사하여 성적 내용, 테러 선전, 자해 조장 등을 차단한다. Red teaming을 통해 새로운 위험에 대비하고 자동화된 시스템과 인적 검토를 병행한다.
• 오디오 및 사용자 권리: 실존 아티스트의 음악 모방을 차단하며, 사용자는 생성된 콘텐츠의 공유 여부를 직접 결정하고 부적절한 계정을 차단하거나 신고할 수 있다.