AI Briefing

안전 및 보안 조치 업데이트

·2024.09.16 22:00

핵심 내용

OpenAI가 모델 개발 및 배포의 안전성을 감독하기 위해 독립적인 이사회 산하 안전 및 보안 위원회를 운영한다.

자세히 보기

OpenAI는 모델 개발 및 배포 과정의 핵심적인 안전 및 보안 조치를 감독하기 위해 **안전 및 보안 위원회(SSC)**를 독립적인 이사회 감독 위원회로 전환한다. 이번 결정은 위원회가 실시한 90일간의 검토 결과와 그에 따른 권고 사항을 반영한 것이다.

새로운 위원회는 카네기 멜론 대학교의 Zico Kolter 교수가 의장을 맡으며, Adam D’Angelo, Paul Nakasone, Nicole Seligman 등이 참여한다. 위원회는 주요 모델 출시 전 안전 평가를 보고받으며, 안전 문제가 해결될 때까지 모델 출시를 지연시킬 수 있는 권한을 갖는다.

주요 강화 조치는 다음과 같다:

  • 독립적 거버넌스 구축: 이사회 산하의 독립적 감독 체계 마련
  • 보안 조치 강화: 사이버 보안 역량 확대 및 AI 산업 내 정보 공유 분석 센터(ISAC) 설립 검토
  • 투명성 제고: System Card를 통한 모델의 역량과 리스크 공개
  • 협력 및 프레임워크 통합: 외부 기관과의 협력 및 모델 개발·모니터링을 위한 통합 안전 프레임워크 구축

이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.

AI 처리 방식을 확인하거나, 요약 오류와 출처 표기 문제, 삭제 요청을 문의 · 건의로 알려주세요.