[AI 윤리 세미나 2025 EP.1] AI가 인간의 비판적 사고를 어떻게 변화시키는가 - LG AI Research 블로그

생성형 AI가 생산성을 극대화하고 있지만, AI에 대한 의존도가 높아질수록 인간이 스스로 생각할 기회를 잃을 수 있다는 우려가 제기된다. 최근 연구에 따르면 AI 활용 시 인간의 역할은 문제를 직접 정의하고 해결하는 **'Doer(수행자)'**에서, AI가 만든 결과물을 검토하고 수정하는 **'Steward(관리자)'**로 전환되고 있다.

이 과정에서 가장 큰 위험은 AI의 결과를 무비판적으로 수용하는 **과잉 의존(Over-reliance)**이다. 이를 방지하기 위해 Microsoft Research는 AI가 옳을 때 신뢰하고, AI가 틀렸을 때 스스로 판단하는 능력을 결합한 '적절한 신뢰(Appropriate Reliance, AoR)' 개념을 제시했다.

효과적인 AI 협업을 위해서는 단순히 정확도를 높이는 것을 넘어, 사용자가 각 맥락에 따라 AI의 신뢰도를 평가하고 신뢰 수준을 조절할 수 있어야 한다. LG AI Research는 이러한 변화를 반영하여 ChatEXAONE의 설계 철학에 비판적 사고와 검증의 가치를 담고 있다.