설계상 불법: 생성형 AI의 인권 비용 드러내기

Amnesty International은 불법 웹 스크래핑을 기반으로 하는 독립형 생성형 AI 시스템이 설계, 개발, 배포 전 과정에서 국제인권법(IHRL) 및 관련 기준과 충돌한다고 발표했습니다.

이러한 시스템은 데이터 수집과 모델 학습 과정에서 프라이버시 권리를 남용하는 구조에 의존하고 있습니다. 이는 단순히 기술적인 문제를 넘어, 차별을 가능하게 하고 표현 및 사상의 자유를 위협하는 심각한 인권 비용을 초래합니다.

Amnesty International은 불법 스크래핑 기반 시스템이 설계상 대규모 프라이버시 침해에 의존하고 있으며, 국제인권법과 근본적으로 양립할 수 없다고 결론지었습니다. 이에 따라 해당 시스템의 금지를 강력히 요구하고 있습니다.

보고서는 OpenAI, Google, Meta, Microsoft, Amazon 등 주요 AI 기업들을 대상으로 인권 위험에 대한 조사 결과와 우려 사항에 대해 답변을 요청했습니다.