AI 안전과 보안을 위한 'Open Secure AI Alliance' 결성

오픈 소스 소프트웨어는 클라우드, 금융, 제조 등 글로벌 경제의 핵심 축이며, 특히 사이버 보안 분야의 주요 수혜 분야다. 이에 따라 Open Secure AI Alliance는 오픈 기술을 활용해 취약점을 식별하고 해결하는 것을 목표로 출범했다.

AI 보안에 있어 미국과 그 파트너들은 중요한 선택의 기로에 서 있다. 보안 인프라를 소수의 폐쇄적인 시스템에 의존할 것인지, 아니면 누구나 연구하고 배포할 수 있는 Open models와 오픈 도구 기반의 방어 체계를 구축할 것인지의 문제다.

Open models와 오픈 하네스(harness)는 다음과 같은 이유로 사이버 보안에 필수적이다:

• 방어 역량의 민주화 및 투명성 증대
• 데이터 보호와 동시에 사이버 방어 수행 가능
• 맞춤형 및 로컬 제어 기능을 통한 폐쇄형 프론티어 모델 보완
• 단일 장애점(Single point of failure)이 없는 분산형 커뮤니티 방어 체계 구축

최근 발생한 Hugging Face 보안 사고는 오픈 시스템의 중요성을 입증했다. 폐쇄형 AI 도구가 공격자와 방어자를 구분하지 못해 포렌식 분석을 차단했을 때, Hugging Face는 자체 인프라에서 GLM 5.2 오픈 웨이트 모델을 실행하여 17,000개 이상의 동작을 분석하고 침입을 차단할 수 있었다.

이번 연합에는 NVIDIA, Adobe, Microsoft, NAVER, SK Telecom, CrowdStrike, Red Hat 등 클라우드, 사이버 보안, AI 연구 분야의 글로벌 리더들이 초기 파트너로 참여했다. 이들은 AI 시대의 소프트웨어와 에이전트를 보호하기 위한 오픈 기술과 도구를 개발하고 공유할 예정이다.