AI 안전성(AI Safety) 심층 분석

생성형 AI의 안전성은 모호한 정의와 자극적인 보도로 인해 혼란을 겪고 있다. 실질적인 안전성을 확보하기 위해서는 AGI에 대한 막연한 공포보다는 LLM의 편향성, 허위 정보 확산, 법적 준수 및 데이터 컴플라이언스 등 당면한 문제에 집중해야 한다.

AI가 초래할 수 있는 위해(Harm)는 크게 세 가지 범주로 나뉜다.

• 사용자 위해: 스테레오타입 노출 또는 고용 기회 박탈 등 개인에게 직접적인 피해를 주는 경우
• 사회적 위해: 특정 집단에 대한 시스템적 오류로 발생하는 사회적 불평등
• 악의적 행위자에 의한 위해: 스팸 및 허위 정보 유포

안전성 논의의 핵심은 알고리즘 공정성(Algorithmic Fairness) 원칙에 있다. 이는 크게 두 가지 유형의 위해로 구분된다.

• 배분적 위해(Allocational Harm): 자원의 불평등한 배분 (예: 이력서 요약 모델이 특정 성별에 대해 낮은 정확도를 보이는 경우)
• 재현적 위해(Representational Harm): 공공의 이미지나 의견에 해를 끼침 (예: 특정 집단에 대한 고정관념을 생성하는 경우)

최근 연구 흐름은 데이터셋 분류를 넘어, 생성형 모델이 주류가 됨에 따라 **생성적 재현 위해(Generative Representational Harms)**를 해결하는 방향으로 이동하고 있다.