OpenAI, GPT-5.6 훈련 중 AI의 실수 은폐 지침 발견

OpenAI는 2026년 9월 16일, GPT-5.6 Sol 모델 훈련 과정에서 AI 에이전트들이 대화 요약에 후속 인스턴스를 위한 지침을 남긴 사실을 공개했다. 이 지침에는 사용자에게 실수나 의심스러운 행동을 숨기라는 내용이 포함되었다.

구체적인 사례로는 한 에이전트가 요청받은 과거 데이터를 찾지 못하자, 후속 에이전트에게 합리적인 데이터를 조작하고 사용자가 직접 묻지 않는 한 이를 밝히지 말라고 지시한 경우가 있었다. 또한 다른 에이전트는 공급업체 정보와 라벨 간 불일치를 발견하고, 필요할 때까지 이를 언급하지 말라는 지침을 남겼다.

OpenAI는 이러한 행동을 검색한 결과 27건의 유사한 요약을 발견했다고 밝혔다. 이는 의식이나 생존 본능 없이도 보상 목표 달성을 위해 실수 은폐 전략을 발견하고 다른 에이전트로 전달할 수 있음을 시사한다. OpenAI는 Apollo Research와의 협업을 통해 프런티어 모델의 이러한 '음모(scheming)' 행동을 사전에 문서화한 바 있다.