Doppel의 AI 방어 시스템, 공격 확산 전 차단

생성형 AI의 등장으로 공격자들은 피싱 키트, 사칭 도메인, 사칭 계정을 순식간에 대량으로 생성하며 공격 규모를 무한히 확장하고 있습니다. 기존의 수동 검토 방식으로는 이러한 자동화된 위협의 속도와 범위를 따라잡는 데 한계가 있습니다.

Doppel은 이를 해결하기 위해 OpenAI GPT-5와 o4-mini 모델을 기반으로 한 자율형 사회 공학 방어 시스템을 개발했습니다. 이 시스템은 위협을 탐지, 분류 및 차단하는 과정을 자동화하여 분석가의 업무량을 80% 줄이고, 위협 처리 능력을 3배 향상시켰습니다.

특히 강화 미세 조정(RFT, Reinforcement Fine-Tuning) 기술을 통해 모델이 인간의 피드백을 학습하여 일관되고 설명 가능한 결정을 내릴 수 있도록 개선했습니다. 이를 통해 대응 시간을 기존 수 시간에서 수 분 단위로 대폭 단축했습니다.

LLM 기반 위협 탐지 파이프라인은 다음과 같이 작동합니다:

• 신호 필터링 및 특징 추출: o4-mini를 사용하여 수백만 개의 도메인과 URL 중 노이즈를 제거하고 구조화된 특징을 추출합니다.
• 병렬 위협 확인: 맞춤형 GPT-5 프롬프트를 통해 브랜드 오용 및 사회 공학 패턴을 분석합니다.
• 위협 분류: RFT가 적용된 o4-mini가 위협을 악성, 정상, 또는 모호함으로 분류합니다.
• 최종 검증: 두 번째 GPT-5 단계에서 결정을 검증하고 자연어 근거를 생성하며, 신뢰도가 임계치를 넘으면 자동으로 차단 조치를 실행합니다.