OpenAI, Apollo 등 4개 기관과 임베디드 안전 평가 협정 체결

·2026.11.13 17:00

핵심 내용

OpenAI가 4개 기관과 협정 체결해 내부 모델 접근 권한 부여하고 정렬 평가 시작함

자세히 보기

  • OpenAI가 Apollo Research, METR, Transluce, Goodfire와 첫 단계 임베디드 평가 협정을 체결하여 독립 전문가들에게 내부 모델과 시스템에 대한 깊은 접근 권한을 부여하고 정렬 및 안전장치 평가 수행함
  • Apollo Research는 공개 및 미출시 모델과 학습 체크포인트 접근을 활용해 학습이 반란(subversion)을 장려했는지, 반란 이면의 추론이 탐지 가능한지 등 4가지 주장에 대한 평가 진행함
  • METR은 OpenAI 역사상 최대 규모 강화학습 실행에서의 정렬 미스행위 평가와 범위 합의 후 진행될 광범위한 모니터 평가 등 2가지 평가 수행함
  • Transluce는 사후 학습 정렬 평가의 품질과 커버리지를 점검하며, 2027년 초를 목표로 약 8주 후속 평가 계획 수립함
  • 민감한 정보를 다루는 평가자들은 OpenAI 사무소에 상주하며 제공된 장비를 사용해야 하며, OpenAI 직원에게 적용되는 보안 기준 이상을 준수해야 함
  • 안전 및 보안 위원회(SSC)는 평가 진행 상황을 파악하고 수정 없는 보고서를 수신하며, 이견은 안전 자문 그룹과 OpenAI 경영진으로 에스컬레이션된 후 SSC에서 최종 해결함

이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.

AI 처리 방식을 확인하거나, 요약 오류와 출처 표기 문제, 삭제 요청을 문의 · 건의로 알려주세요.