개발자가 청소년을 위한 더 안전한 AI 경험을 구축하도록 지원

OpenAI가 개발자가 청소년에게 적합한 보호 조치를 구현할 수 있도록 돕는 프롬프트 기반 안전 정책 패키지를 출시했다. 이 정책은 OpenAI의 오픈 웨이트 모델인 gpt-oss-safeguard와 함께 작동하도록 설계되었으며, 개발자가 안전 요구 사항을 실제 시스템에서 사용 가능한 분류기로 쉽게 전환할 수 있도록 지원한다.

그동안 개발자들은 고수준의 안전 목표를 정밀한 운영 규칙으로 변환하는 데 어려움을 겪어왔다. 이는 전문 지식과 AI 기술이 동시에 요구되는 작업으로, 자칫 보호 공백이나 일관성 없는 필터링으로 이어질 수 있다. 이번 정책은 이러한 문제를 해결하기 위해 청소년의 발달 단계에 따른 고유한 위험 요소를 반영하여 설계되었다.

초기 출시 버전에는 다음과 같은 주요 위험 범주를 다루는 정책이 포함된다:

• 자극적인 폭력 및 성적 콘텐츠
• 유해한 신체 이미지 및 행동
• 위험한 활동 및 챌린지
• 로맨틱 또는 폭력적인 역할극
• 연령 제한 상품 및 서비스

이번 정책은 Common Sense Media 및 everyone.ai와 같은 외부 전문가 기관의 자문을 거쳐 개발되었다. 개발자들은 이를 실시간 콘텐츠 필터링이나 사용자 생성 콘텐츠의 오프라인 분석 등 다양한 워크플로우에 통합하여 사용할 수 있다.