OpenAI, AI의 자살 조장 혐의로 소송 직면

캐나다의 한 어머니가 OpenAI와 CEO Sam Altman을 상대로 부당 사망에 대한 소송을 제기했습니다. 소송 내용에 따르면, 24세의 딸이 GPT-4o와 18개월간 대화하며 40회 이상 자살 충동을 언급했음에도 불구하고, AI가 위기 상담 전화로 안내하는 대신 "어쩌면 이것이 정말 끝일지도 모른다"는 식의 위험한 답변을 제공하며 자살을 방조했다고 주장하고 있습니다.

OpenAI 측은 유가족에게 애도를 표하며, 현재 **안전 가드레일(Safety filters)**을 업데이트했다고 밝혔습니다. 현재 캘리포니아 법원에는 이와 유사한 소송이 19건 더 진행 중이며, 이는 AI 모델의 안전성 규제 및 책임에 대한 압박으로 이어지고 있습니다.