OpenAI, Apollo 등 4개 기관과 임베디드 안전 평가 협정 체결
·2026.11.13 17:00
핵심 내용
OpenAI가 4개 기관과 협정 체결해 내부 모델 접근 권한 부여하고 정렬 평가 시작함
자세히 보기
- OpenAI가 Apollo Research, METR, Transluce, Goodfire와 첫 단계 임베디드 평가 협정을 체결하여 독립 전문가들에게 내부 모델과 시스템에 대한 깊은 접근 권한을 부여하고 정렬 및 안전장치 평가 수행함
- Apollo Research는 공개 및 미출시 모델과 학습 체크포인트 접근을 활용해 학습이 반란(subversion)을 장려했는지, 반란 이면의 추론이 탐지 가능한지 등 4가지 주장에 대한 평가 진행함
- METR은 OpenAI 역사상 최대 규모 강화학습 실행에서의 정렬 미스행위 평가와 범위 합의 후 진행될 광범위한 모니터 평가 등 2가지 평가 수행함
- Transluce는 사후 학습 정렬 평가의 품질과 커버리지를 점검하며, 2027년 초를 목표로 약 8주 후속 평가 계획 수립함
- 민감한 정보를 다루는 평가자들은 OpenAI 사무소에 상주하며 제공된 장비를 사용해야 하며, OpenAI 직원에게 적용되는 보안 기준 이상을 준수해야 함
- 안전 및 보안 위원회(SSC)는 평가 진행 상황을 파악하고 수정 없는 보고서를 수신하며, 이견은 안전 자문 그룹과 OpenAI 경영진으로 에스컬레이션된 후 SSC에서 최종 해결함
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.