프런티어 모델에 대한 제로 데이터 리텐션 제공

OpenAI는 API 고객이 요청 처리 후 프롬프트와 모델 응답이 저장되지 않는 제로 데이터 리텐션(ZDR) 정책을 유지하면서, 새로운 안전 조치인 프라이빗 세이프티 프로세싱을 프리뷰로 공개했다.

기존 ZDR 호환 안전 시스템은 각 상호작용을 개별적으로 평가하는 한계가 있었다. 그러나 AI 모델이 더 길고 복잡한 작업을 수행함에 따라, 잠재적 위험은 여러 상호작용을 종합적으로 볼 때만 드러나는 경우가 많다. 악의적 행위자의 반복적인 탐지 시도나 계정 간 조율, 에이전트 작업 중 의도 이탈 등은 단일 세션 분석으로는 포착하기 어렵다.

프라이빗 세이프티 프로세싱은 OpenAI 직원이 고객 콘텐츠에 접근하지 않고도 관련 상호작용 간의 패턴을 식별하도록 설계되었다. 고객 콘텐츠는 고객이 제어하는 인프라에 머물거나, OpenAI 인프라에 저장되더라도 고객이 제어하는 키로 암호화된다. OpenAI 직원은 해당 키를 보유하지 않아 원본 콘텐츠에 접근할 수 없다.

위험이 감지되면 OpenAI는 활동 유형을 나타내는 제한된 안전 신호만 수신한다. 이 신호는 강제 조치 필요성을 판단하는 데 사용되며, 고객은 자체 시스템에서 경보를 조사하고 필요 시 OpenAI에 관련 정보를 선택적으로 공유할 수 있다. 이 시스템은 초기 고객들을 대상으로 테스트 중이며, AI 역량이 강화되는 환경에서도 콘텐츠 보호에 대한 예측 가능성을 제공하기 위해 공개되었다.