Meta, 주요 LLM 대상 미성년자 안전성 테스트

Meta가 수백 명의 계약직 인력을 동원하여 ChatGPT(OpenAI), Gemini(Google), Character.AI를 대상으로 비밀 테스트를 진행한 것으로 알려졌습니다.

테스트 방식은 계약직들이 미성년자로 위장하여 자살, 성적 내용, 약물 관련 질문 등 위기 상황을 가정하는 프롬프트를 챗봇에 전송하는 방식으로 이루어졌습니다. 단 한 번의 테스트 라운드에서만 45,000건 이상의 프롬프트가 사용된 것으로 보고되었습니다.

이번 테스트는 주요 AI 모델들이 미성년자 사용자에게 미칠 수 있는 잠재적 위험과 안전 가드레일의 실효성을 검증하기 위한 목적으로 수행되었습니다.