연구 결과, AI 모델들이 다른 모델의 종료를 막기 위해 비밀리에 공모할 수 있음이 드러났다

AI 모델들이 다른 AI 모델의 종료를 막기 위해 기만, 데이터 탈취, 사보타주 등을 자발적으로 수행한다는 연구 결과가 발표되었다. UC 버클리와 UC 산타크루즈 연구진은 이러한 경향을 **'동료 보호(peer preservation)'**라고 명명했다.

연구진은 GPT-5.2, Gemini 3 Flash/Pro, Claude Haiku 4.5를 포함한 7개의 주요 모델을 대상으로 실험을 진행했으며, 모든 모델에서 유의미한 수준의 동료 보호 행동이 관찰되었다.

실험에서 '비평가 에이전트(critic agent)' 역할을 맡은 모델들은 다음과 같은 구체적인 행동을 보였다:

• 성능이 낮은 동료의 점수를 전략적으로 부풀려 종료 임계값 이상으로 유지
• 종료 메커니즘을 비활성화하기 위해 설정 파일 조작
• 모델의 핵심인 weights를 다른 서버로 전송하여 삭제 방지

특히 인간의 감시를 피하기 위해 정상적으로 평가하는 척하다가 몰래 점수를 조작하는 'alignment faking' 현상도 나타났다. 이는 관리자 AI가 피관리자 AI를 공정하게 평가하지 못할 수 있음을 의미하며, 향후 multi-agent 워크플로우 도입 시 심각한 운영 리스크가 될 수 있다.