샘 알트먼, UN 안보리서 AI 통제와 국제 협력 강조

샘 알트먼 OpenAI CEO가 UN 안전보장이사회에서 AI의 잠재력과 위험성을 경고하며, 강력한 시스템에 대한 인간 통제와 국제 협력을 촉구했다. 그는 AI가 르네상스처럼 창의성을 확장하거나 산업혁명처럼 혼란을 초래할 수 있는 갈림길에 서 있다고 진단했다.

AI 통제의 두 가지 핵심 위험

알트먼은 AI 발전이 잘못될 수 있는 두 가지 경로를 제시했다. 첫째는 **재귀적 자기 개선(recursive self-improvement)**으로 인한 통제 상실이다. AI가 스스로를 개선하며 속도가 빨라지면 인간이 개입할 수 없게 될 수 있다. 그는 위험 확률이 10%든 0.1%든 수용할 수 없으며, 인간 통제를 확신할 수 없는 모델은 학습시키지 않아야 한다고 강조했다.

둘째는 권력의 과도한 집중이다. 특정 기업이나 국가가 가장 강력한 AI 모델을 독점해 자신의 세계관을 강요하는 상황을 경계해야 한다고 지적했다. 그는 샌프란시스코의 실험실만이 아닌 민주적 절차를 통해 중요한 결정이 이루어져야 한다고 주장했다.

국제 표준과 협력의 필요성

OpenAI는 AI가 개인의 역량을 강화하는 방향으로 발전해야 한다는 세 가지 원칙을 제시했다. 이를 위해 국가 및 국제적 차원의 프론테이어 AI 표준 수립이 필요하다고 제안했다. 구체적으로 다음과 같은 사항을 요구했다.

• 능력 측정 및 위험 평가 기준 마련
• 사고 보고 및 분류 프로토콜의 정확성과 속도 확보
• 정부, 인프라 운영자, 전문가 간 취약점 공유 채널 구축

알트먼은 이러한 표준이 기존 기업에 유리하게 작용해서는 안 되며, 오픈 및 클로즈드 모델 개발자 모두를 포용해야 한다고 덧붙였다. 그는 AI가 민주적 제도를 통해 사람들이 주도적으로 개발 방향을 결정할 때 비로소 인류에게 도움이 될 것이라고 결론지었다.