가장 도움이 필요한 순간, 사람들을 돕는 방법

ChatGPT가 검색과 코딩을 넘어 개인적인 조언이나 코칭, 정서적 지원 도구로 활용됨에 따라 사용자의 정신적·정서적 위기 상황에 대한 대응이 중요해졌다. OpenAI는 모델이 위기 징후를 인식하고 적절히 반응하며, 실제 전문가 및 자원과 연결될 수 있도록 안전장치를 지속적으로 개선하고 있다.

주요 안전장치 및 대응 체계는 다음과 같다:

• 공감적 반응 및 차단: 자해 지침 제공을 거부하고 공감적인 언어로 전환하며, 안전 가이드라인에 어긋나는 응답은 자동으로 차단한다.
• 실제 자원 연결: 자살 의도를 표현할 경우 미국(988), 영국(Samaritans) 등 국가별 위기 상담 전화나 findahelpline.com과 같은 전문 기관으로 안내한다.
• 위험 상황 에스컬레이션: 타인에게 신체적 위해를 가하려는 징후가 포착되면 전문 팀이 검토하며, 긴급한 경우 법 집행 기관에 알릴 수 있다. 단, 자해 사례는 개인정보 보호를 위해 법 집행 기관에 직접 알리지 않는다.

최근 출시된 GPT-5는 이전 모델인 4o 대비 정신 건강 비상 상황에서의 부적절한 응답을 25% 이상 감소시켰다. 또한, 안전 범위를 유지하면서도 최대한 도움이 되는 답변을 제공하는 safe completions 학습 방식을 도입하여 정서적 의존도와 아첨(sycophancy) 문제를 개선했다.