OpenAI, AI 생성 CSAM 탐지 무료 이미지 분류기 공개

·2026.11.17 02:00

핵심 내용

OpenAI가 AI 생성 CSAM 탐지 기능을 갖춘 무료 이미지 분류기를 공개했다.

자세히 보기

  • OpenAI가 AI 생성 콘텐츠 포함 아동 성착취물(CSAM)을 탐지하는 신규 이미지 분류기를 공개함. 이는 AI 생성 CSAM에 대한 특정 신호를 제공하는 첫 번째 광범위하게 이용 가능한 도구임.
  • 사용자 업로드 이미지 평가에서 기존 보호 조치와 유사한 수준의 악용 이미지를 탐지하면서 플래그된 이미지 수를 48% 줄였음. 플래그된 이미지에는 악용 내용이 포함될 가능성이 2배 높았음.
  • 초기 접근 파트너들은 높은 정확도를 보고함. fal은 고신뢰도 플래그의 72%가 새로운 CSAM임을 확인했고, invideo AI는 플래그된 사례의 4분의 1이 계정 정지로 이어졌으며, SafetyKit은 성적인 그림과 애니메이션의 90%를 탐지하고 합법적인 성인 콘텐츠에 대한 오탐률을 1% 미만으로 유지함.
  • 해당 분류기는 Tech Coalition과 ROOST를 통해 접근을 조정하며, 검증된 조직에게 OpenAI API를 통해 무료로 제공됨.
  • 새로운 ChatGPT 경고 시스템은 악용 자료 접근 시도를 중단하고, 대화를 삭제하며, 24시간 동안 접근을 일시 정지한 뒤 지원 리소스로 사용자를 유도함.
  • OpenAI는 개발자를 위한 실용적인 CSAM 가이드라인을 게시하고, 수사 기관에 채팅 로그 검토, 연결 관계 식별, 타임라인 생성을 위한 AI 도구를 제공함.

이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.

AI 처리 방식을 확인하거나, 요약 오류와 출처 표기 문제, 삭제 요청을 문의 · 건의로 알려주세요.