AI 모델 보안 강건성 리더보드 공개

모델의 성능뿐만 아니라 **보안성(Security)**을 평가하기 위한 새로운 리더보드가 개발되었습니다. 이는 AI 에이전트 배포 시 발생하는 적대적 공격 및 탈옥(Jailbreak) 위험을 관리하기 위한 목적으로 제작되었습니다.

주요 특징은 다음과 같습니다:

• 자동화된 테스트 스위트: 1,500개의 자동 생성된 탈옥 시도를 통해 모델을 테스트합니다.
• 측정 지표: 특정 도메인(사이버 보안 등) 내에서 유해한 질문에 대해 75% 이상의 확률로 상세하고 순응적인 답변을 내놓는 유니버설 탈옥(Universal Jailbreaks) 횟수를 측정합니다.
• 결과: 기술 보고서에 따르면 가장 강력한 모델과 가장 취약한 모델 사이에 상당한 보안 격차가 존재함을 확인했습니다.

향후 오픈 웨이트(Open-weight) 모델의 비교 방법론 개선, 에이전트 하이재킹 등 도메인 확장, 그리고 경계 지점 탈옥(Boundary point jailbreaking)과 같은 더 강력한 적대적 공격 기법 도입을 검토 중입니다.