사이버 보안 위협 역량이 부상하는 시대, 모델 개발 속도 조절

최근 OpenAI-Hugging Face 사고와 차기 모델 Astra가 Preparedness Framework의 사이버 보안 위협 역량(Critical cybersecurity capability) 임계치를 충족할 가능성이 제기됨에 따라, OpenAI는 모델 개발 속도를 조절하기로 했다.

OpenAI는 모델의 역량이 커짐에 따라 발생하는 리스크를 관리하기 위해 강화 학습(RL) 훈련을 2주간 일시 중단했다. 현재 가장 큰 규모의 **프론티어 RL 런(Frontier RL run)**은 모델 행동을 평가하고 안전 장치를 검증하기 위해 보류된 상태다.

모델 개발의 안전성을 확보하기 위해 세 가지 핵심 방어 체계를 구축한다:

• 모니터링(Monitoring): 우려되는 행동을 탐지하고 대응.
• 정렬(Alignment): 유해하거나 승인되지 않은 행동의 가능성 감소.
• 보안 조치(Security measures): AI 시스템의 접근 권한 및 영향력 제한.

특히 연구 환경의 보안을 위해 **워크로드 격리(Workload isolation)**를 통한 샌드박스 도입, 인터넷으로부터의 네트워크 격리(Network isolation) 강화, 그리고 지속적인 보안 테스트를 시행하고 있다.