유럽 전역에서 책임 있는 AI 발전시키기

OpenAI가 EU AI Act의 다음 단계에 맞춰 유럽에서 책임 있는 AI를 개발·배포하기 위한 안전성, 보안, 투명성, 출처(provenance) 체계를 강화했다고 밝혔다.

OpenAI는 EU의 범용 AI(GPAI) Code of Practice와 AI 생성 콘텐츠 투명성 Code of Practice를 지지하고 서명했다. 두 지침은 다중 이해관계자 논의를 바탕으로 안전, 보안, 책임성, 투명성, 콘텐츠 출처 관리를 다룬다.

모델 출시 전 테스트와 시스템 카드 공개, 외부 전문가가 참여하는 Red Teaming Network, 공개 Model Spec 등을 통해 모델 행동과 위험을 점검해 왔다. 2023년 도입 후 2025년 개정된 Preparedness Framework와 Frontier Governance Framework는 위험 평가, 보호 조치, 모델 보고, 보안, 사고 대응, 외부 전문가 참여를 구체화한다.

또한 Frontier Model Forum, 미국·영국 AI Safety Institute와의 협력, 제3자 평가 연구를 통해 업계 전반의 안전 연구와 평가 기준 마련에도 참여하고 있다.

AI 생성 미디어의 출처 관리를 위해서는 두 가지 기술을 병행한다.

• Content Credentials(C2PA): 콘텐츠에 생성·편집 이력과 같은 상세 맥락을 기록한다.
• SynthID 워터마크: 메타데이터가 사라진 경우에도 AI 생성 신호를 유지하도록 돕는다.

OpenAI는 이미지에 이어 오디오 출력까지 출처 관리 적용 범위를 확대하고 있으며, EU 투명성 지침에 맞춰 관련 조치를 계속 확장할 계획이다.