안전 및 보안 조치 업데이트
·2024.09.16 22:00
OpenAI가 모델 개발 및 배포의 안전성을 감독하기 위해 독립적인 이사회 산하 안전 및 보안 위원회를 운영한다.
OpenAI는 모델 개발 및 배포 과정의 핵심적인 안전 및 보안 조치를 감독하기 위해 **안전 및 보안 위원회(SSC)**를 독립적인 이사회 감독 위원회로 전환한다. 이번 결정은 위원회가 실시한 90일간의 검토 결과와 그에 따른 권고 사항을 반영한 것이다.
새로운 위원회는 카네기 멜론 대학교의 Zico Kolter 교수가 의장을 맡으며, Adam D’Angelo, Paul Nakasone, Nicole Seligman 등이 참여한다. 위원회는 주요 모델 출시 전 안전 평가를 보고받으며, 안전 문제가 해결될 때까지 모델 출시를 지연시킬 수 있는 권한을 갖는다.
주요 강화 조치는 다음과 같다:
- 독립적 거버넌스 구축: 이사회 산하의 독립적 감독 체계 마련
- 보안 조치 강화: 사이버 보안 역량 확대 및 AI 산업 내 정보 공유 분석 센터(ISAC) 설립 검토
- 투명성 제고: System Card를 통한 모델의 역량과 리스크 공개
- 협력 및 프레임워크 통합: 외부 기관과의 협력 및 모델 개발·모니터링을 위한 통합 안전 프레임워크 구축
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.