OpenAI, 캘리포니아 청소년 AI 안전법 SB 1119 지지

OpenAI는 청소년의 AI 사용에 대한 의미 있는 보호 장치를 마련하면서도 학습 및 창작 도구로서의 접근성을 유지하는 캘리포니아 상원 법안 SB 1119를 지지한다고 밝혔다. 이는 연방 차원의 입법이 부재한 상황에서 캘리포니아가 청소년 AI 안전 기준을 설정할 기회로 작용하며, OpenAI는 해당 법안의 서명을 뉴섬 주지사에게 요청했다.

SB 1119의 핵심 요구 사항

이 법안은 AI가 소셜 미디어가 아님을 인정하면서도, 13~17세 사용자에게 자동으로 적용되는 강력한 보호 장치를 규정한다. 주요 내용은 다음과 같다:

• 사용자 연령 확인 및 제품 출시 전 위험 요소 식별
• 독립적인 감사 수행
• 자해, 성적 착취 등 유해 콘텐츠로부터의 보호
• 부모가 자녀의 사용을 제한하고 지도할 수 있는 도구 제공
• 위기 상황 발생 시 지원 자원 연결
• 타겟팅 광고 제한 및 개인정보 보호

ChatGPT for Teens와 안전 설계

OpenAI는 법안의 취지에 부합하는 ChatGPT for Teens를 출시했다. 시스템이 사용자가 18세 미만으로 추정하거나 사용자가 13~17세임을 밝힐 경우, 해당 계정은 자동으로 이 모드로 전환된다. 이 보호 장치는 사용자가 끌 수 없는 기본 설정이다.

해당 모드에는 교육 전문가와 함께 개발된 퀴즈, 학습 시각화, 학습 모드 등이 포함되어 단계별 문제 해결을 돕는다. 또한 Memory 기능을 활용해 이전 대화의 맥락을 유지함으로써 장기적인 학습 프로젝트를 지원하고, 우려스러운 패턴을 인식하여 더 효과적인 안전 대응과 학습 지원을 제공한다. OpenAI는 지난 1년간 부모 통제, 연령 예측, Teen Safety Blueprint 등을 도입하며 청소년과의 상호작용 기준을 강화해 왔다.