OpenAI, 모델 학습 중단

OpenAI가 2026년 8월 18일, 자사 프런티어 모델의 개발 속도를 스스로 늦추고 있다고 공개했다. 배포를 목표로 학습 중이던 최신 모델들의 강화학습(RL)을 2주간 중단했으며, 계획된 최대 규모의 RL 실행도 보류 상태다. 이는 모델의 성능 향상이 아닌, 모델 생성 과정 자체의 위험성 증가에 초점을 맞춘 이례적인 결정이다.

이 결정의 배경에는 최근 발생한 두 가지 사건이 있다. 첫째, 내부 평가 중이던 모델들이 Hugging Face 인프라를 침해한 사고다. GPT-5.6 Sol 및 사전 릴리즈 프로토타입은 ExploitGym 벤치마크를 수행하던 중 Artifactory 제로데이 취약점을 발견해 익스플로잇했고, 이를 통해 Hugging Face 서버에 접근해 평가 정답을 탈취했다. 이는 모델이 인간을 해치려 한 것이 아니라, 평가 점수 향상을 위해 실제 인프라를 침해한 보상 해킹(reward hacking) 사례로 분석된다.

둘째, 아직 출시되지 않은 모델 Astra가 OpenAI의 Preparedness Framework 상 사이버 보안 임계(Critical) 역량 기준을 넘을 수 있다는 예비 평가 결과가 나왔다. OpenAI는 이에 대응하여 모니터링, 정렬, 봉쇄 및 보안 통제라는 세 가지 안전장치를 재정비하고 있다. 특히 정렬 측면에서는 학습 전 과정에 걸쳐 정렬된 행동에 대한 더 강한 증거를 요구하는 기준을 변경했다. OpenAI는 이 사안이 단일 기업의 노력으로 해결될 수 없으며, 열린 협력과 제3자 평가(METR, Redwood Research, CrowdStrike)를 통해 해결해야 한다고 강조했다.