OpenAI 전 안전 연구원들, 해고로 인한 '위축 효과' 경고… 안전 협력 및 투명성 회복 촉구

전 OpenAI 안전 연구원 Tomek Korbak, Jasmine Wang, Mikita Balesni는 최근 해고와 관련 커뮤니케이션이 현직 직원들이 자유롭게 발언하거나 독립적인 안전 기관과 협력하는 것을 두려워하게 만들었다고 회사 감독 기구에 서한을 보냈다. 이들은 이러한 '위축'된 문화가 Hugging Face 사건과 같은 중요한 조사에서 제3자와 고신뢰, 고대역폭으로 협력하는 능력을 약화시켜 필수적인 안전 메커니즘을 훼손한다고 주장한다.

저자들은 자신의 행동을 옹호하며 The Information에 모니터링 불가능한 아키텍처에 대한 정보를 유출했다는 의혹을 부인했다. Tomek은 Hugging Face 조사 중 기존 정책을 따랐고, Mikita는 이사회와 C-레벨의 지원을 받아 회사 간 작업을 조율했으며, Jasmine의 경영진 이메일 접근 권한은 위임된 채용 도구였으나 IT가 제거하지 못해 실수로 노출된 후 즉시 보고했다고 밝혔다. 또한 공유된 이사회 메모에 대한 루머에 대해 자신들과 논의된 적이 없다고 반박했다.

서한은 OpenAI 경영진에게 세 가지 구체적인 권고 사항을 제시했다:

1. Sam Altman의 9월 12일 약속을 준수하여 독립 평가자에게 직원 수준의 지속적 접근 권한을 제공하고 METR 등과의 파트너십을 유지할 것.
2. 프런티어 모델의 모니터링 가능성을 보존하고 '모니터링 불가능한 아키텍처로의 경쟁'에 대한 업계 우려에 동의하며 이를 감소시키는 개발을 피할 것.
3. 투명성 문화를 공개적으로 재확인하고 외부 협력의 경계를 명확히 정의하여 남은 직원들의 모호성을 방지할 것.