OpenAI 인권 책임자, 군사 AI 위험 경고

OpenAI의 첫 인권 및 책임 있는 배포 담당 책임자인 Sarah Yager가 6월 입사 후 군사 분야 AI 채택과 관련된 심각한 윤리적 우려를 제기했다. 뉴욕에서 열린 ScaleUp:AI 컨퍼런스에서 Yager는 타겟팅과 자율 무기에 AI가 사용될 가능성을 주요 걱정거리로 꼽으며, "이 문제가 나를 잠 못 들게 한다"고 밝혔다.

임명 배경

Yager의 임명은 2월 말 OpenAI가 **전쟁부(Department of War, DoW)**와 기밀 환경에서 고급 AI 시스템을 배포하는 계약을 체결한 이후 이루어졌다. 이 계약은 DoW와 Anthropic 간 공개 분쟁 이후 성사됐다. Yager는 인권 및 군사 응용 분야에서 30년의 경력을 보유하고 있다.

최근 사건

CNN이 보도한 최근 사건에 따르면, 미군은 부정확한 AI 생성 정보 보고서를 바탕으로 중국 군함을 거의 타격할 뻔했다. 이는 Yager가 지적하는 실질적 위험을 잘 보여주는 사례다.