UN AI 과학 패널, AI 위험성 경고

요슈아 벤지오(Yoshua Bengio)와 마리아 레사가 공동 의장을 맡은 40인 규모의 독립 과학 패널이 AI에 관한 첫 번째 글로벌 과학 평가 보고서를 발표했습니다.

보고서의 핵심은 AI의 발전 속도가 과학적 이해와 정부의 대응 능력을 앞지르고 있다는 점입니다. 패널은 급격하고 통제되지 않은 AI 배포로 인해 다음과 같은 위험이 발생할 수 있다고 경고했습니다.

• 사용자 정신 건강에 미치는 해악
• 파괴적인 도구로의 악용 가능성
• 사회적, 경제적, 환경적 시스템에 미치는 영향
• 기술 통제의 어려움

특히 벤지오는 AI의 기만적 행동(deceptive behavior) 증거가 증가하고 있음을 지적하며, 기술 능력이 향상됨에 따라 AI가 단독으로 혹은 악의적인 사용자에 의해 재앙적인 피해를 입히지 않을 것이라고 과학적으로 보장할 수 없다고 강조했습니다.

이번 보고서는 140개국 2,600명 이상의 지원자 중에서 선발된 전문가들에 의해 작성되었으며, 오는 7월 6일 제네바에서 열리는 UN AI 거버넌스 글로벌 대화의 기초 자료로 활용될 예정입니다.