AI 병상 관리 시스템의 판단 오류로 환자 사망

브라질의 주정부 운영 AI 병상 관리 시스템인 Core-MG가 환자의 중증도를 **6.8점(10점 만점)**으로 낮게 측정하면서, 중환자실(ICU) 이송이 5일간 지연되는 사고가 발생했다.

사고 당시 환자는 담석증으로 입원 중이었으나 상태가 급격히 악화되었음에도 불구하고, AI의 점수 산정 방식 때문에 더 높은 점수를 받은 다른 환자들에게 순위가 밀려 이송되지 못했다. 의료진이 시스템의 결정을 거부하고 직접 개입할 수 있는 **자율권(Autonomy)**이 제한되었다는 점이 주요 문제로 지적되었다.

이번 사건은 의료 자동화 시스템이 임상적 의사결정을 대체하거나 압도할 때 발생할 수 있는 AI 안전성 및 윤리적 위험을 보여주는 사례로, 현재 유가족 측은 시스템의 역할을 문제 삼아 법적 대응을 진행 중이다.