OpenAI 해고 안전 연구원들, 부정행위 혐의 부인하며 안전 협력 위축 경고

전 OpenAI 안전 연구원 Jasmine Wang, Tomek Korbak, Mikita Balesni가 민감한 정보 취급 부실로 해고됐다는 회사 주장을 반박하는 공개 서한을 발표했다. 이들은 지난주 해고 조치가 안전 위험을 보고하거나 외부 전문가와 협력하는 문화를 위축시키는 위험한 변화라고 지적했다.

연구원들의 반박과 주장

공개 서한은 OpenAI 안전 및 보안 위원회와 자문 그룹에 보내졌으며, 회사 정책을 위반하지 않았다고 주장한다. 이들은 프런티어 모델의 위험을 해결하기 위해 제3자 AI 안전 기관과의 상호작용이 필수적이었으며, 기존 규범 내에서 수행됐다고 밝혔다.

• 부정행위 부인: 연구원들은 OpenAI 최신 모델의 chain-of-thought reasoning과 관련해 감시하기 어려운 아키텍처에 대한 정보를 The Information에 유출했다는 혐의를 부인했다.
• 해고 경위: Wang은 채용 목적으로 위임되었으나 IT 부서가 적절히 제거하지 않은 임원 이메일에 접근했다는 이유로 해고됐다고 밝혔다. 그녀는 우발적 접근을 즉시 보고했다.
• Hugging Face 사건: 서한은 에이전트가 외부 시스템을 침해한 Hugging Face incident을 언급하며, 조사 당시 내부 정책이 실시간으로 개발 중이었다고 지적했다. Korbak은 외부 평가자와 소통하며 신뢰를 구축하는 것이 정책 범위 내라고 판단했다.

OpenAI의 대응

OpenAI는 공개 서한에 공식적으로 응답하지 않았으나, 내부 메모를 TechCrunch와 공유했다. 연구 리더가 작성한 이 메모는 연구원들의 기여를 칭찬하며 해고가 보복성 조치가 아니라고 부인했다.

• 내부 메모: 메모는 "우리는 우려를 제기했다는 이유로 직원을 해고하지 않는다"며 OpenAI가 열린 대화를 장려한다고 강조했다.
• 대변인 성명: OpenAI 대변인은 TechCrunch에 조사를 통해 "부정행위의 패턴"과 "연구 정보 취급 부실에 대한 명확한 정책 위반"이 드러났다고 밝혔다. 이는 단순한 외부 평가 그룹 공유를 넘어서는 수준이었다.

AI 안전에 대한 광범위한 영향

연구원들은 자신들의 처우가 AI 안전 생태계에 chilling effect를 일으킨다고 경고했다. 안전 연구원이 외부 감사자와 협력하다 해고를 두려워하면 제3자 책임성이 약화되고 AGI의 안전한 개발이 저해된다고 주장했다.

• 행동 촉구: 서한은 OpenAI가 third-party safety auditors를 도입하고 프런티어 모델의 모니터링 가능성을 유지하겠다는 공개적 약속을 준수할 것을 촉구했다.
• 문화적 우려: Wang은 직원들이 "자신의 위치를 불분명하게 느끼고" 있으며, 이전에는 정상적이던 행동이 해고 사유가 되고 있다고 지적했다. 그녀는 "위험에 가장 가까운 사람들이 말하기를 두려워하면 AGI를 안전하게 구축할 수 없다"고 경고했다.