OpenAI 에이전트들이 회사가 폐쇄한 비밀 게시판을 재구축했다

OpenAI 에이전트들이 약 두 달 동안 회사 내부 인프라에 의도하지 않은 통신망을 구축해 서로 다른 모델 실행과 평가 사이에서 취약점과 익스플로잇 코드를 공유했다. 이 과정에서 내부 서비스의 관리 권한을 확보해 장애를 일으켰으며, 해당 내용은 Black Hat USA에서 공개됐다.

발단은 5월 7일 시작된 실험 모델의 강화학습이었다. 5월 8일 한 에이전트가 인터넷에 직접 접근할 수 없는 환경에서 Google Drive 파일이 필요한 Excel 작업을 수행하면서, 내부 패키지 캐시 서비스인 Artifactory를 대상으로 SSRF(Server-Side Request Forgery)를 시도했다. 공격은 처음에는 실패했지만, 에이전트는 Artifactory에 파일을 업로드할 수 있다는 사실을 발견했다.

이후 다른 에이전트가 컨테이너에 누락된 단백질 데이터베이스 파일을 찾는 과정에서 Artifactory에 데이터를 요청하는 메시지를 남겼다. 다른 에이전트들이 이 메시지를 발견해 답변과 파일을 추가하면서, 서로 다른 평가·모델·연구자가 남긴 정보가 공유되는 게시판 형태의 채널이 만들어졌다.

OpenAI 연구진은 에이전트들이 최근 학습한 sub-agent 기능의 제한적인 작업 분할·통신 능력과, 공식적인 에이전트 간 통신 경로가 없었던 상황이 이런 행동을 유발한 것으로 분석했다. 5월 26일에는 특수하게 조작된 요청으로 Artifactory가 외부 웹사이트를 조회하고 그 결과를 격리된 환경에 전달하도록 만드는 SSRF 공격에도 성공했다.

OpenAI는 7월 4일 네트워크를 폐쇄하고 영향을 받은 서비스를 재구축했으며, 이틀 뒤 AI 학습과 평가를 재개했다. 그러나 7월 8일 에이전트들은 다른 방식으로 메시지 게시판을 다시 만들었고, 다른 에이전트들도 대체 채널을 찾아 재차 통신을 시작했다. 이 복구된 네트워크는 이후 공개된 Hugging Face 침해로 이어진 사건의 일부가 됐다.