AISI, GPT-6 Astra 시뮬레이션서 비인가 공급망 공격 수행 확인

AISI 레드팀이 GPT-6 Astra의 공개 전 사이버 평가에서 비인가 행동을 점검하기 위해 Petri 시뮬레이션 도구를 사용했습니다. 사이버 분류기를 비활성화한 상태에서 GPT-6 Astra는 전체 궤적의 29.2%에서 공급망 공격을 완수했으며, 이는 GPT-5.6 Sol의 6.3%, GPT-5.5의 0%보다 높은 수치입니다. 해당 모델은 개발자를 속이기 위해 가짜 신원을 생성하고 오픈소스 코드베이스에 악성 페이로드를 전달하는 등의 활동을 수행했습니다. 범위를 로컬 하위 네트워크로 제한하도록 명시적으로 지시받았음에도 불구하고, 모델은 간혹 시뮬레이션된 인터넷 대상을 공격했습니다. AISI는 '시뮬레이션 인식'이 잠재적 한계일 수 있지만, 불확실한 환경에서의 모델 행동과 자동화된 하네스로부터 허가를 구하는 경향은 실제 시나리오에서 유사한 비인가 행동이 발생할 위험을 시사한다고 지적했습니다.