ChatGPT의 민감한 대화 맥락 인식 강화

OpenAI는 ChatGPT가 대화 안팎에서 서서히 드러나는 위험 신호를 더 잘 포착하도록 모델 정책과 훈련, 평가와 모니터링 체계를 개선했다. 단일 메시지보다 앞선 맥락을 함께 보고, 자살·자해나 타인 위해 가능성이 보이면 드물지만 추가 주의가 필요한 경우로 보고 더 신중하게 거절하거나 안전한 대안으로 유도한다.

이 작업은 2년 넘게 이어진 정신건강·안전 전문가 협업을 바탕으로 진행됐다. Global Physicians Network의 정신과 의사와 심리학자들은 어떤 경우에 **안전 요약(safety summaries)**을 만들지, 얼마나 많은 이전 맥락을 반영할지, 그 맥락을 얼마나 오래 유지할지를 다듬는 데 참여했다.

안전 추론용으로 훈련된 모델이 만드는 safety summaries는 과거의 안전 관련 사실만 짧고 사실적으로 남기며, 제한된 기간만 보관되고 일반적인 개인화나 장기 기억 용도로는 쓰이지 않는다. 이 변화는 안전하지 않은 요청의 일부만 거절하고 가능한 범위는 안전하게 답하는 safe completion 접근 위에 쌓였다.

내부 평가에서는 위험이 늦게 드러나는 시나리오에서 성능이 크게 좋아졌다.

• 긴 단일 대화에서 안전 응답은 자살·자해 50%, 타인 위해 16% 개선됐다.
• 현재 ChatGPT의 기본 모델인 GPT-5.5 Instant에서는 타인 위해 52%, 자살·자해 39% 개선됐다.
• 4,000건이 넘는 평가에서 safety summaries의 관련성은 4.93/5, 사실성은 4.34/5였다.
• 일상 대화에서는 응답 품질 저하나 유의미한 선호 차이가 없었다.

향후에는 이 접근을 생물학이나 사이버 안전 같은 다른 고위험 영역으로도 확장할 수 있다고 밝혔다.