OpenAI, 아동 안전을 위한 'Safety by Design' 원칙 채택

OpenAI는 Amazon, Anthropic, Google, Meta, Microsoft 등 업계 리더들과 함께 생성형 AI를 이용한 아동 성착취 및 성적 위해를 방지하기 위해 Safety by Design 원칙을 도입하기로 했습니다. 이번 이니셔티브는 비영리 단체인 Thorn과 All Tech Is Human의 주도로 진행됩니다.

OpenAI는 AI 개발의 모든 단계에서 아동 안전을 최우선으로 고려하며, 다음과 같은 세 가지 핵심 영역에 집중합니다.

• 개발(Develop): 책임감 있는 데이터 소싱, 학습 데이터 내 CSAM(아동 성학대물) 및 CSEM(아동 성착취물) 탐지 및 제거, 지속적인 스트레스 테스트 수행.
• 배포(Deploy): 안전성 평가를 거친 모델만 출시, 남용되는 콘텐츠에 대한 대응 및 방지 노력 강화.
• 유지 관리(Maintain): 악의적인 사용자가 생성한 AIG-CSAM 제거, 관련 연구 및 기술 솔루션 투자.

OpenAI는 이번 약속의 일환으로 매년 진행 상황을 업데이트하여 공개할 예정입니다.