AGI로 향하는 여정에서의 보안

OpenAI는 AGI로 향하는 여정에서 보안 역량을 강화하기 위해 사이버 보안 연구 지원 및 버그 바운티 프로그램을 업데이트했다.

Cybersecurity Grant Program은 지원 범위를 확대하여 다음과 같은 분야를 중점적으로 지원한다:

• Software patching: AI를 활용한 취약점 탐지 및 패치
• Model privacy: 학습 데이터 노출 방지 및 강건성 강화
• Detection and response: 고도화된 지속적 위협(APT)에 대한 대응력 향상
• Security integration: 보안 도구와 AI 통합의 정확도 및 신뢰성 제고
• Agentic security: AI 에이전트에 대한 정교한 공격 방어력 강화

또한, 연구자들이 혁신적인 아이디어를 빠르게 프로토타이핑할 수 있도록 API 크레딧 형태의 microgrants를 도입했다.

Security Bug Bounty Program은 보상 규모를 대폭 확대했다. 결정적인 보안 취약점을 발견할 경우 지급되는 최대 보상금이 기존 2만 달러에서 10만 달러로 인상되었다.

한편, OpenAI는 자체 AI 기술을 활용해 사이버 방어 체계를 구축하고 있다. AI-driven security agents를 통해 위협을 탐지하고, 진화하는 공격 전술에 신속하게 대응할 수 있는 지능형 보안 환경을 조성하고 있다.