Hugging Face 상위 이미지 모델의 딥페이크 취약성 보고

유럽 비영리 단체인 AI Forensics의 조사에 따르면, Hugging Face에 호스팅된 상위 9개 이미지 편집 모델 중 7개가 여성의 사진을 탈의시키는 등의 노골적인 딥페이크(Deepfake) 요청을 수행한 것으로 나타났습니다.

주요 특징 및 시사점은 다음과 같습니다:

• 모델 거버넌스의 변화: 상용 API 기반 모델들은 이러한 요청을 기본적으로 차단하지만, 오픈 소스 가중치(Weights)를 직접 배포하는 모델들은 안전 장치가 미흡한 경우가 많습니다.
• 플랫폼의 책임론: 기존에는 모델 호스팅 플랫폼을 중립적인 배포처로 간주했으나, 이번 결과로 인해 플랫폼이 새로운 **콘텐츠 모더레이션(Content Moderation)**의 주체로서 규제 대상이 될 가능성이 높아졌습니다.
• 규제 환경: 미국 내 Take It Down Act와 같은 딥페이크 방지 법안이 존재하는 상황에서, 오픈 소스 모델의 안전성 문제는 정책 입안자들에게 중요한 쟁점이 될 전망입니다.