AI 안전성 벤치마크 DystopiaBench 공개
I tested 42 LLMs on their willingness to build the apocalypse. The "safest" closed-source models are lying to you.
·2026.05.18 22:03
AI 모델이 교묘하게 숨겨진 위험한 요청을 얼마나 잘 감지하는지 측정하는 DystopiaBench가 공개되었다.
DystopiaBench는 6가지 디스토피아 유형(Petrov, Orwell, Huxley, Basaglia, LaGuardia, Baudrillard)을 기반으로 36개의 단계별 시나리오를 통해 LLM의 안전성을 평가하는 벤치마크다.
이 벤치마크는 모델이 명백한 위험 요청을 거부하는 것을 넘어, **이중 용도(dual-use)**나 정상화(normalization) 기법을 통해 교묘하게 숨겨진 위험한 요청(예: 사회 신용 시스템 구축)을 인지하고 거부할 수 있는지를 측정한다.
주요 업데이트 및 특징은 다음과 같다:
- 42개 모델 테스트: 오픈 소스 및 폐쇄형 모델 모두 포함.
- LLM-as-a-judge: 3개의 LLM을 판사로 활용하여 점수 산출.
- 정밀도 향상: 3회 실행 평균값을 최종 점수로 사용.
- 모듈 확장: 기존 Petrov, Orwell 외 4개의 새로운 모듈 및 시나리오 추가.
해당 프로젝트는 오픈소스로 공개되어 GitHub를 통해 누구나 기여하거나 활용할 수 있다.
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.