[2025 AI 윤리 세미나 EP.4] 도구에서 동료로: 판단을 확장하는 AI UX 설계

생성형 AI가 업무 인프라로 자리 잡으면서, AI를 어디에 적용할 것인가를 넘어 사람의 판단과 일하는 방식을 어디까지 확장할 것인가에 대한 논의가 필요하다.

인간은 대니얼 카너먼의 이론에 따라 직관적인 System 1과 분석적인 System 2로 사고한다. AI가 유창한 답변을 제시할 때, 인간의 System 2는 에너지를 아끼려는 '게으름' 특성 때문에 AI의 오류를 검토하지 않고 그대로 수용하는 **자동화 편향(Automation Bias)**에 빠질 위험이 크다.

실제 연구 결과에 따르면, AI의 잘못된 제안은 의료, 경영 등 고위험 의사결정 분야에서 전문가의 판단력을 심각하게 왜곡시킨다. 특히 AI가 제시하는 답이 논리적일수록 인간은 과도하게 의존하는 경향을 보인다.

따라서 AI와의 협업은 단순한 성능 증강을 넘어, 인간이 AI의 결과를 비판적으로 검토하고 자신의 **서사적 사고(Narrative Thinking)**를 유지할 수 있도록 돕는 UX 설계가 핵심이다.