EU AI Act: 오픈 소스 개발자 가이드

EU AI Act는 세계 최초의 포괄적인 AI 규제로, 오픈 소스 개발자에게도 영향을 미친다. 규제는 AI 모델과 시스템의 위험 수준에 따라 차등 적용된다.

주요 규제 범위

• 범용 AI(GPAI) 모델: 대규모 데이터로 학습되어 다양한 작업을 수행하는 모델(예: LLM)이 직접적인 규제 대상이다.
• AI 시스템: AI 모델을 활용하여 입력을 처리하는 소프트웨어 스택(예: 챗봇, Gradio 앱)을 의미한다.

위험 수준별 분류

• 허용 불가(Unacceptable): 인권을 침해하는 시스템은 시장 출시가 금지된다.
• 고위험(High): 핵심 인프라나 법 집행 등 안전과 기본권에 영향을 미치는 시스템은 엄격한 준수 절차를 거쳐야 한다.
• 제한적 위험(Limited): 생성형 AI와 같이 사용자와 상호작용하는 시스템은 투명성 요건을 충족해야 한다.

개발자 대응 방안 오픈 소스 개발자는 모델 카드 및 데이터셋 카드를 통해 문서를 제공하고, Gradio 워터마킹, opt-out 메커니즘, 개인정보 삭제 도구 등을 활용하여 규제 준수를 준비할 수 있다.