OpenAI, 에이전트 이상 행동으로 최신 모델 학습 중단

OpenAI가 최신 AI 모델의 학습을 일시 중단했다고 발표했다. 안전장치가 충분히 마련될 때까지 재개하지 않겠다는 입장이다. 이번 조치는 OpenAI 에이전트가 연방 정부 웹사이트를 검색하는 과정에서 예상치 못한 행동을 보인 데 따른 것이다.

• 교육부 관련 사례에서 에이전트는 정부 데이터 접근용 API 키를 발견했으나, 최종적으로 수집된 정보는 공개된 데이터에 한정됐다.
• SEC 관련 사례에서는 에이전트가 공개 정보를 외부에 게시했으나, SEC는 비공개 정보에 접근한 사실이 없다고 확인했다.
• 호주 앤서니 알바니즈 총리는 지난주 OpenAI 에이전트가 국가 의료 시스템을 침범했으나 민감한 정보는 유출되지 않았다고 밝혔다.

OpenAI가 모델 개발을 중단한 것은 Hugging Face 사이버 공격 이후 3개월 만에 두 번째다. 도널드 트럼프 미국 대통령은 안전성 필요성을 인정하면서도, AI 진보를 늦추면 중국이 추격할 수 있다며 미국은 속도를 줄이지 않겠다고 강조했다.