추천
OpenAI, GPT-6.2 Astra로 추론 추출 성공률 54.0%에서 0.2%로 대폭 축소
·2026.11.20 19:00
핵심 내용
GPT-6.2 Astra와 Sol의 보호 조치로 추론 추출 성공률이 0.2%로 낮아졌다
자세히 보기
- OpenAI는 GPT-6.2 Astra와 GPT-6.2 Sol의 업데이트된 안전장치로 이전 요청에서 보호된 추론을 추출하는 적응형 블랙박스 공격 성공률을 54.0%에서 0.2%로 낮췄다고 보고함
- 내부 연구에 따르면 정확한 추론 트레이스로 학생 모델을 학습할 때 추론 요약으로 학습하는 것보다 사이버 역량이 더 많이 이전됨, 특히 높은 추론 예산 하의 강화 학습 이후에 두드러짐
- 방어 체계는 적대적 학습, 입력 및 출력 분류기, 그리고 보호된 추론을 특정 대화 히스토리에 묶어 크로스 모델 접근을 차단하는 API 레벨 제어 기능을 결합함
- OpenAI는 여러 건의 무단 증류 캠페인을 차단했으며, 주당 수천 개에서 수만 개에 달하는 계정에 대해 집행 조치를 취하고 미국 모델 역량을 추출하는 외국 행위자를 제재하기 위한 입법을 지원함
Technical Defenses
- 적대적 학습은 레드팀링과 조사에서 성공한 공격을 활용해 모델이 추론 추출을 거부하도록 학습시키되, 합법적인 응답은 유지함
- 출력 분류기는 어시스턴트 메시지 및 도구 호출 인자 내 누출을 감지하여, 의심되는 보호된 추론이 호출자에게 도달하기 전에 차단함
- API 보호 기능은 대화 및 모델 간 추론 재사용을 제한하고, 이전 메시지가 재작성되면 추론을 삭제하며, 구형 모델 계열이 GPT-6.2 추론에 접근하는 것을 방지함
Industry and Policy Implications
- OpenAI는 다른 모델 제공업체와 침해 지표(IoC)를 공유하고, 배포 환경 전반의 조정된 집행 일관성을 위한 일관된 기준 정책을 지원함
- 해당 기업은 수출 통제를 강화하고 적대국의 학습 하드웨어 접근을 제한하기 위해 Chip Security Act, AI OVERWATCH Act, MATCH Act를 지원함
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.