Spring Health, 정신건강 AI 평가 프레임워크 VERA-MH 공개

정신건강 전문 기업인 Spring Health가 AI 도구가 자살 위험을 얼마나 정확하게 감지하고 대응하는지 측정할 수 있는 VERA-MH(Validation of Ethical and Responsible AI in Mental Health)를 개발했다.

이 프레임워크는 다음과 같은 특징을 가진다:

• 업계 최초의 오픈 소스 평가 프레임워크
• 임상적으로 검증된(Clinically validated) 평가 기준 제공
• AI의 윤리적이고 책임감 있는 정신건강 서비스 제공을 위한 표준 제시

이번 발표는 최근 챗봇의 부적절한 답변으로 인한 안전성 논란이 커지는 가운데, AI를 정신건강 분야에 안전하게 도입하기 위한 기술적/윤리적 가이드라인을 제공할 것으로 기대된다.