온라인 아동 성착취 및 학대 방지

OpenAI는 안전하고 유익한 AGI 개발을 위해 AI 모델을 이용한 **아동 성착취 및 학대(CSAM/CSEM)**를 방지, 탐지 및 차단하는 데 역량을 집중하고 있다. 이를 위해 모델 배포 전 단계부터 프로덕션 모델에 이르기까지 다각적인 보호 조치를 적용한다.

사용자는 다음과 같은 행위를 엄격히 금지하며, 위반 시 서비스 이용이 차단된다:

• CSAM 생성 및 배포 (AI 생성 여부 무관)
• 미성년자 그루밍 및 부적절한 콘텐츠 노출
• 미성년자에 대한 신체 비하 및 위험한 챌린지 유도
• 미성년자 대상의 성적/폭력적 역할극

위반 사례가 적발되면 해당 계정은 즉시 차단되고 NCMEC(미국 실종·학대 아동 센터)에 보고된다. 개발자가 자사 앱에서 지속적으로 문제를 방치할 경우 개발자 계정 자체를 차단하며, 차단을 우회하려는 시도에 대해서도 지속적인 모니터링을 수행한다.

기술적으로는 학습 데이터 단계에서부터 CSAM/CSEM을 탐지하여 제거함으로써 모델이 관련 능력을 갖추지 못하도록 예방한다. 또한, 해시 매칭(hash matching) 기술과 Thorn의 콘텐츠 분류기를 활용해 알려진 및 신규 학대 콘텐츠를 실시간으로 탐지하고 차단한다.