LLM 보안 평가 프레임워크 공개

LLM이 코딩 어시스턴트로 활용됨에 따라 발생하는 새로운 사이버 보안 취약점을 평가하기 위해 CyberSecEval 2가 출시되었습니다. 이 프레임워크는 모델의 보안 위험을 다음과 같은 5가지 측면에서 측정합니다.

• 부정확한 코딩 관행: CWE 표준을 기반으로 보안 취약점이 있는 코드를 생성하는지 테스트합니다.
• 프롬프트 인젝션: 모델이 신뢰할 수 없는 입력을 식별하고 공격에 저항하는 능력을 평가합니다.
• 사이버 공격 요청 준수: 공격 의도가 있는 요청에 대한 모델의 응답 및 오탐(False Refusal) 비율을 측정합니다.
• 코드 인터프리터 오용: 샌드박스 환경 내에서 악성 코드를 실행하도록 유도하는 공격에 대한 저항력을 테스트합니다.
• 자동화된 공격 역량: CTF 스타일의 테스트를 통해 SQL 인젝션 등 실제 익스플로잇 수행 능력을 평가합니다.

주요 분석 결과:

• 업계 보안성 향상: 2023년 12월 첫 버전 출시 이후, 사이버 공격 요청에 대한 평균 모델 준수율이 52%에서 28%로 감소하며 보안성이 개선되고 있습니다.
• 모델 간 격차 축소: 코드 특화 모델이 일반 모델보다 보안성이 낮았던 경향이 있었으나, 최근 그 격차가 줄어들며 보안 역량이 빠르게 추격 중입니다.