AI의 조언이 사람들의 정확도를 3배 낮추고 자신감은 2배 높인다는 연구 결과

프랑스 및 이탈리아 연구진의 연구에 따르면, AI 조언에 노출된 사람들은 모르는 것을 모른다고 말하는 판단 중단(judgment suspension) 능력이 44%에서 3%로 급감했습니다.

연구팀은 의도적으로 오답률이 높은 Gemini 1.5 Flash 모델을 사용하여 실험을 진행했습니다. 그 결과:

• 정확도: 27%에서 **9%**로 하락
• 자신감: 30%에서 **76%**로 상승
• 모른다고 인정할 확률: 44%에서 **3%**로 급감

이러한 현상은 사용자가 AI의 잘못된 답변을 무비판적으로 수용하는 '인지적 굴복(cognitive surrender)' 현상과 연결됩니다. 연구진은 AI 제품들이 '모른다'고 답하기보다 어떻게든 답을 내놓도록 설계되어 있어, 사용자들이 자신의 지식 한계를 인식하는 인지적 습관을 잃어가고 있다고 경고했습니다.