전 OpenAI 안전 책임자: 매주 화요일 위험 배포

전 OpenAI 안전 책임자 David Robinson은 추론 학습과 도구 통합의 빠른 업데이트로 인해 전체 사전 학습 주기 없이도 매주 화요일마다 새로운 기능과 위험이 배포되고 있다고 밝혔다.

개발 주기의 변화

Robinson은 대규모 사전 학습 후 긴 사후 학습 단계에 의존하던 기존 안전 테스트 모델(GPT-4 사례)이 느슨해졌다고 설명했다. 이제 기본 모델은 하나의 계층일 뿐이며, 추론 학습과 사후 학습 단계를 빠르게 반복할 수 있다. 이를 통해 OpenAI는 기존 기본 모델에 더 나은 추론 레시피를 적용할 수 있다.

가속화된 릴리스 주기

릴리스 간격은 크게 단축되어 GPT-6.1 Sol은 GPT-6 Sol 공개 1주 후 DevDay에서 등장했다. Robinson은 새로운 학습 없이도 도구와 기능의 추가가 모델의 능력과 관련 위험을 변화시킨다고 강조했다. 그는 이러한 변화로 인해 시스템의 동작과 위험 프로필이 매주 진화하고 있다고 경고했다.