국제앰네스티, 생성형 AI의 인권 침해 경고 및 금지 촉구

국제앰네스티(Amnesty International)는 **'Unlawful by Design: Exposing the Human Rights Costs of Generative AI'**라는 제목의 보고서를 통해 GPT-3, Gemini, Llama, DeepSeek, Midjourney, Stable Diffusion 등 주요 생성형 AI 제품들이 국제 인권법과 근본적으로 양립할 수 없다고 발표했습니다.

보고서의 주요 내용은 다음과 같습니다:

• 개인정보 보호 침해: 대규모 웹 스크레이핑을 통한 학습 데이터 수집은 당사자의 인지 및 동의 없는 대규모 프라이버시 침해에 해당함.
• 차별 및 편향성: 학습 데이터에 내재된 인종 및 성별 편향이 차별을 고착화함.
• 표현의 자유: AI 모더레이션 시스템이 비영어권 콘텐츠를 과도하게 검열하는 문제 발생.
• 심리적 조작: 예측 제안을 통한 사용자의 의도 및 사고 과정 조작은 단순한 설계 결함이 아닌 **강압(Coercion)**에 해당할 수 있음.

국제앰네스티는 해당 사안과 관련하여 Google, OpenAI, Meta, Microsoft, Amazon 등 주요 기업들에 의견을 요청했으며, 이 중 5개 기업만이 답변을 보냈습니다.