AI 누디파이 앱 오남용 및 플랫폼 책임 논란

영국 초등학교 학생들 사이에서 AI를 이용해 타인의 사진을 음란물로 변조하는 '누디파이(nudify)' 앱 오남용 사례가 심각한 사회 문제로 부상하고 있다.

**인터넷 감시 재단(Internet Watch Foundation)**에 따르면, 영국의 한 중학교에서 생성된 150개의 AI 생성 이미지가 아동 성착취물(CSAM)로 분류되었다. 2024년에는 13건의 AI 생성 CSAM 영상이 확인되었으나, 2025년에는 그 수가 3,443건으로 급증했다. 피해자의 97%는 여학생인 것으로 나타났다.

범죄자들은 학교 웹사이트의 사진을 스크래핑하여 이러한 도구에 활용하고 있으며, 이에 따라 영국 학교들은 웹사이트에서 학생들의 사진을 삭제하라는 권고를 받고 있다.

문제는 이러한 앱들이 여전히 앱 스토어에서 유통되고 있다는 점이다. 누디파이 앱은 총 4억 8,300만 회 다운로드되었으며, 애플과 구글은 일부 앱을 삭제했음에도 불구하고 여전히 해당 앱들에 대한 광고를 송출하고 있는 것으로 드러났다. 이는 플랫폼의 책임 범위와 규제에 대한 중요한 논쟁을 불러일으키고 있다.