AI BriefingOpenAI, 2027년 첫 커뮤니티 안전 보고서 발행 및 청소년 폭력 보호 강화
·2026.10.30 18:00
핵심 내용
OpenAI가 2027년 초 첫 커뮤니티 안전 보고서 발행 및 청소년 폭력 보호 강화 계획을 발표했다.
자세히 보기
- OpenAI는 2027년 초부터 2026년 하반기 내용을 포함해 반기별 '커뮤니티 안전 보고서'를 발행하여 유해 행위 탐지 및 대응 방식을 공개할 것임
- 2026년 3분기에는 폭력적 음모를 차단하기 위해 200건 이상의 법 집행 기관 인계를 진행했으며, 정신건강 및 행동 전문가를 활용해 난이도 높은 사례를 평가함
- 모든 사용자를 대상으로 과거 대량 공격 사건에 관한 상세 정보, 특히 무기 및 장비 관련 내용을 제한하되, 예방 및 피해자 영향에 대한 논의는 허용함
- 청소년용 ChatGPT에는 무기 관련 정보 접근 제한이 강화되며, 폭력 집착이나 타인 해칠 의도 징후가 감지되면 채팅이 자동 종료되고 계정 정지 가능성이 있음
- 연령 예측 시스템이 강화되어 신호를 지속적으로 평가해 18세 미만 경험으로 전환하며, 오분류된 사용자는 Persona를 통해 신원 확인 옵션을 제공받음
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.
