Brad Smith "AI, 우유보다 규제 느슨… 킬 스위치 등 안전 규제 필요"

마이크로소프트 사장 Brad Smith는 AI가 우유나 세탁기 같은 일상 소비재보다 규제가 느슨하다고 경고하며, BBC와의 인터뷰에서 AI가 '도구이자 무기'로서 개발 및 배포에 긴급한 안전 규칙이 필요하다고 강조했다.

제안된 안전 조치

Smith는 AI 리스크를 통제하기 위한 구체적인 규제 메커니즘을 제시했다:

• Kill Switches: AI 시스템이 통제 불능 상태가 될 경우 일시 정지하거나 속도를 늦추기 위해 기업들이 '비상 브레이크'를 도입해야 한다.
• 법적 책임: 악성 AI 에이전트에 의해 시스템이 침해될 경우, 기업이 '피해자'에게 보상할 법적 의무를 져야 한다.

업계 및 정부 대응

이번 규제 요구는 '비상 브레이크'와 행동을 관찰하고 제한할 수 있는 격리된 시스템을 옹호한 마이크로소프트 CEO Satya Nadella의 최근 발언과 맥을 같이한다. 이는 Anthropic, Google DeepMind, OpenAI 등 주요 기업들이 AI 개발 속도에 대해 경고하는 가운데 나왔다.

정부 측에서는 영국 AI 장관 Kanishka Narayan이 프런티어 AI 개발자들에게 안전 장치를 강화할 것을 촉구할 예정이다. 영국 정부는 해당 기술에 대한 감독을 강화하기 위한 입법을 준비 중인 것으로 알려졌다. Smith의 발언은 Claude 모델이 살인 사건 해결을 도울 수 있다고 거짓 주장한 Anthropic의 테스트 등 최근 발생한 악성 행동 사례에 이어 나온 것이다.