LG AI 연구원의 AI 윤리 세미나

생성형 AI가 생산성을 극대화하고 있지만, 동시에 인간의 사고 주도권을 약화시킬 수 있다는 우려가 제기되고 있다. 최근 연구에 따르면 AI에 대한 신뢰도가 높을수록 스스로 사고하려는 노력이 감소하는 경향이 나타났다.

사용자는 AI의 결과를 무조건 믿거나 의심하는 대신, AI가 맞았을 때 수용하고 틀렸을 때 스스로 판단을 지켜내는 **'적절한 신뢰(Appropriate Reliance)'**를 갖춰야 한다. 이를 위해 AI 설계 시 다음과 같은 전략이 필요하다.

• 답변 검증 지원: AI가 답을 낸 근거를 제시하여 사용자가 직접 판단할 수 있게 함
• 불확실성 알림: AI의 답변이 정확하지 않을 수 있음을 명시하여 신중한 해석 유도
• 사고 유도 질문: 단정적 답변 대신 반례를 묻는 질문을 던져 비판적 사고 자극

결국 AI 설계의 핵심은 단순히 똑똑한 모델을 만드는 것이 아니라, 인간의 비판적 사고를 촉진하는 파트너로서의 역할을 수행하는 데 있다.