AI 거버넌스 과제: 안전하고 확장 가능한 AI 도입을 지원하는 방법

AI 거버넌스는 기업이 AI를 안전하고 일관되게 도입하도록 돕는 필수 요소다. 하지만 AI 사용 범위가 넓어질수록 조직의 거버넌스 프레임워크와 실제 사용 방식 사이에 불일치가 발생하며, 이는 가시성과 책임 소재의 상실로 이어진다.

도입 규모가 커짐에 따라 발생하는 주요 거버넌스 문제는 다음과 같다:

• 일회성 승인 단계로 전락: 사용 사례의 목적이나 위험도가 변해도 재검토가 이루어지지 않으면, 초기 승인 내용과 다른 고위험 업무에 AI가 잘못 사용될 수 있다.
• 불분명한 소유권: 비즈니스, 기술, 법무, 보안 팀 간의 역할 분담이 모호할 경우, 데이터 노출이나 신뢰할 수 없는 출력물 문제 발생 시 대응 주체가 불분명해진다.
• 위험도와 맞지 않는 통제: 저위험 사례에 과도한 검토를 요구하거나, 고위험 사례에 적절한 감독을 생략하면 거버넌스가 임의적으로 느껴지거나 위험에 노출될 수 있다.
• 직원 사용 추적의 어려움: 공개 AI 앱이나 브라우저 확장 프로그램 등을 통한 무분별한 사용은 조직의 통제 범위를 벗어나게 만든다.