청소년의 안전, 자유, 그리고 개인정보 보호

AI 개인정보 보호는 의료나 법률 상담만큼이나 민감한 영역으로 다뤄져야 한다. OpenAI는 직원조차 데이터에 접근할 수 없는 고급 보안 기능을 개발 중이며, 생명 위협이나 대규모 사이버 보안 사고와 같은 극단적인 위험 상황에 한해서만 인간의 검토를 거치는 예외를 둔다.

사용자의 자유 측면에서는 성인 사용자를 성인답게 대우하는 것을 원칙으로 한다. ChatGPT의 제어 능력이 향상됨에 따라, 성인 사용자가 요청할 경우 적절한 수준의 유혹적인 대화나 창작 목적의 자살 묘사 등을 허용하여 사용자의 자유를 최대한 보장할 계획이다.

반면, 청소년 보호는 개인정보 보호나 자유보다 우선순위에 둔다. 이를 위해 다음과 같은 조치를 시행한다:

• 사용 패턴을 기반으로 연령을 추정하는 연령 예측 시스템 구축
• 연령 확인이 불분명할 경우 미성년자용 경험을 기본값으로 설정
• 청소년에게는 유혹적인 대화나 자해 관련 논의를 엄격히 제한
• 자살 충동 등 긴급 상황 감지 시 보호자 또는 당국에 연락