2단계 구조의 프롬프트 인젝션 탐지기 공개

비용 효율적인 보안을 위해 2단계(Two-stage) 구조를 채택한 프롬프트 인젝션 탐지기가 공개되었습니다. 1단계로 약 430개의 패턴을 가진 Regex 레이어가 저사양 트래픽을 1ms 미만으로 처리하며, 모호한 입력은 2단계인 DeBERTa-v3-large(ONNX/INT8 양자화) 모델이 정밀 검사합니다.

이 프로젝트의 핵심 특징은 다음과 같습니다:

• 실제 공격 데이터 활용: 게임을 통해 수집된 13,230개의 실제 우회 시도 데이터를 익명화하여 학습 데이터셋에 포함했습니다.
• 멀티모달 지원: 텍스트뿐만 아니라 이미지(OCR, 메타데이터, 스테가노그래피), 문서, 오디오 입력을 통한 인젝션 공격까지 방어합니다.
• 오픈소스 제공: 코드, 가중치(Weights), 그리고 50만 개 이상의 샘플이 포함된 데이터셋이 모두 공개되었습니다.

사용자는 이를 통해 단순 템플릿 공격뿐만 아니라, 실제 인간 공격자가 시도하는 정교한 우회 공격에 대한 방어력을 측정할 수 있습니다.