[AI 윤리 세미나 EP.2] AI로 인한 위험을 제대로 바라보기 위한 연구들 - LG AI Research BLOG

AI 기술의 무한한 가능성 뒤에는 부작용에 대한 우려가 공존한다. AI가 끼칠 피해를 객관적으로 파악하고 대비하기 위해서는 실제 위험에 대한 구체적인 지식과 경험이 필수적이다.

전 세계적으로 발생하는 AI 사고를 수집하려는 시도가 이어지고 있다. 자발적 기록인 **AIID(AI Incident Database)**와 OECD의 실시간 감지 도구인 **AIM(AI Incidents Monitor)**이 대표적이다. OECD 데이터에 따르면 2023~2024년 사이 AI 사고 건수는 전년 대비 139% 급증하며 가파른 증가세를 보이고 있다.

최근에는 산재한 사고 기록을 하나의 체계로 정리하려는 노력이 활발하다. 특히 MIT는 777개의 사례를 담은 AI Risk Repository를 구축하여 위험을 두 가지 기준으로 분류했다.

• 인과적 분류(Causal Taxonomy): 위험의 주체(인간/AI), 발생 시점(배포 전/후), 의도성(의도적/비의도적)에 따라 분류
• 분야별 분류(Domain Taxonomy): 오정보, 악의적 사용, 사회적 상호작용, 안전성 등 7개 영역으로 분류

MIT의 연구 결과, AI 위험의 원인은 AI 시스템 자체에서 비롯되는 경우가 **51%**로 가장 많았으며, 배포 이후 발생하는 사고가 **65%**를 차지했다. 이러한 분류 체계는 정책 입안자의 감독, 학계의 연구, 기업의 위험 완화 전략 수립에 핵심적인 도구로 활용될 수 있다.