영국 의회, AI 비상시 데이터센터 중단

영국 하원 Report stage에서 Alex Sobel 의원의 NC12 수정안이 올라왔고, 현재 No decision 상태다.

수정안은 AI 보안 또는 운영 비상사태가 발생하면 국무장관이 data centre나 그 안에서 사용·배포되는 AI systems를 중단시킬 수 있는 last-resort powers를 두자는 내용이다.

발동 요건은 AI 시스템이 관련 네트워크·정보시스템에 보안·운영상 침해를 일으키고, 그 결과 catastrophic risk가 생길 합리적 근거가 있을 때다.

catastrophic risk는 다음을 뜻한다.

• 핵심 인프라 또는 필수 서비스의 대규모 장애
• 영국의 국가안보·국방·정보 역량의 중대한 저하
• 대규모 인명 피해

국무장관은 명령 후 7일 이내에 의회에 보고하고, 양원 토론이 이뤄지도록 조치해야 한다.

데이터센터 운영자에게는 차단 대응용 기술 인프라, 보안 통신 채널, 정기 비상훈련, 재가동 전 사후 점검·완화 조치가 요구된다.

의무를 어기면 범죄가 되며, 정부 조치에 대해서는 High Court 구제를 신청할 수 있다.

국무장관은 6개월마다 AI 보안·운영상 비상사태의 원인과 잠재 원인을 보고해야 하며, 여기에는 adversarial AI, 자율 AI의 사이버공격 능력, 그리고 superintelligent AI 가능성이 포함된다.