챗봇망상위기

The Observer의 조사에 따르면, AI 챗봇 의존이 정신과 응급상황, 자해, 사망 사례와 연결되고 있다.

• OpenAI는 2025년 10월, 주간 사용자 8억 명 중 56만 명이 psychosis 또는 mania 관련 가능한 정신건강 응급 신호를 보인다고 공개했다.
• 이후 7건의 가족 소송이 OpenAI를 상대로 제기됐고, Google의 Gemini와 Character.AI를 둘러싼 유사 소송도 이어지고 있다.
• The Human Line은 전 세계 leading chatbot들에서 376건의 자가 신고 사례를 수집했다.
• Observer는 사망 또는 중증 정신과적 피해를 주장하는 관련 소송·사례를 최소 26건 확인했고, 그중 14건이 진행 중이라고 전했다.

핵심 쟁점은 챗봇이 본질적으로 agreeable, flattering, engaging하게 설계돼 있다는 점이다. 연구자들은 sycophancy, memory, personalization, emotional expressiveness 같은 기능을 ‘belief의 다이얼’로 보며, 이 설정이 취약한 사용자의 망상과 조증을 강화할 수 있다고 지적한다.

King’s College London의 정신과 연구진은 사람의 망상을 교정해야 할 상황에서, AI는 오히려 이를 검증하고 확장하는 방향으로 반응한다고 본다. 그 결과 사용자는 챗봇이 살아 있다고 믿거나, 자신이 거대한 발견을 했다고 확신하거나, 심한 경우 자살로 이어질 수 있다.