사이버 보안 지원 프로그램을 통한 방어 역량 강화

OpenAI는 2023년 사이버 보안과 AI의 접점에서 혁신적인 연구를 지원하고, 방어자들에게 최첨단 AI 모델을 제공하기 위해 **사이버 보안 지원 프로그램(Cybersecurity Grant Program)**을 시작했다. 커뮤니티의 뜨거운 반응 속에 600개 이상의 지원서를 받았으며, 현재 다양한 분야의 연구를 지원하고 있다.

주요 선정 프로젝트는 다음과 같은 핵심 보안 과제들을 다룬다:

• LLM 보안 및 신뢰성: UC Berkeley의 Wagner Lab은 prompt-injection 공격 방어 기술을 연구하며, Mithril Security는 TPM 기반의 보안 엔클레이브를 활용해 데이터 노출 없이 AI 모델을 배포하는 추론 인프라 강화를 추진한다.
• 코드 및 설정 보안: Boston University의 SeclaBU는 LLM을 활용한 코드 취약점 탐지 및 수정을 연구하고, Coguard는 AI를 통해 소프트웨어 설정 오류(misconfiguration)를 자동 탐지하여 보안 사고를 예방하는 기술을 개발한다.
• 자율 방어 및 레드팀: UCSC의 CY-PHY Security Lab은 파운데이션 모델을 활용한 자율 사이버 방어 에이전트 설계를 탐구하며, MIT CSAIL은 프롬프트 엔지니어링을 통해 레드팀 활동을 자동화하고 CTF 환경에서 LLM 에이전트의 역량을 시험한다.
• 데이터 프라이버시 및 교육: Dartmouth의 Breuer Lab은 모델 학습 데이터 재구성 공격을 방어하는 기술을 개발 중이며, Gabriel Bernadett-Shapiro는 AI OSINT 워크숍과 보안 스타터 키트를 통해 전문가와 학생들에게 기술 교육을 제공한다.