AI 안전 및 보안을 위한 'Open Secure AI Alliance' 결성

오픈 소스 소프트웨어는 클라우드, 금융, 제조 등 글로벌 경제의 핵심 축이며, 특히 사이버 보안 분야에서 그 중요성이 매우 높다. Open Secure AI Alliance는 리눅스 재단의 Akrites 이니셔티브와 OpenSSF의 성과를 바탕으로, 오픈 기술을 활용해 AI 시대의 취약점을 해결하고 공개하는 것을 목표로 한다.

AI 보안에 있어 오픈 모델과 오픈 하네스(Harness)는 필수적이다. 이는 방어 역량을 민주화하고 투명성을 높이며, 데이터를 보호하면서도 사이버 방어를 가능하게 한다. 폐쇄형 모델만으로는 인프라를 보호하는 데 한계가 있으며, 방어자가 직접 검사하고 적응할 수 있는 오픈 프론티어 도구가 필요하다.

최근 Hugging Face의 보안 사고는 이러한 필요성을 증명했다. 폐쇄형 AI 도구가 공격자와 방어자를 구분하지 못해 포렌식 분석을 차단했을 때, Hugging Face는 자체 인프라에서 오픈 웨이트 모델인 GLM 5.2를 실행하여 17,000개 이상의 동작을 분석하고 침입을 차단할 수 있었다.

이번 연합에는 다음과 같은 주요 기업들이 참여한다:

• NVIDIA, Microsoft, Adobe, Cisco, IBM, Red Hat
• NAVER, SK Telecom, Samsung (참여 기업 리스트 중 한국 기업 포함)
• CrowdStrike, Palo Alto Networks, Cloudflare 등

오픈 모델이 악용될 위험은 존재하지만, 이는 폐쇄형 시스템에서도 발생하는 문제다. 따라서 올바른 대응은 오픈 모델을 부정하는 것이 아니라, 강력한 보호 조치와 명확한 규칙, 엄격한 평가 및 신속한 복구 체계를 결합하여 방어자가 신뢰할 수 있는 도구를 갖추도록 하는 것이다.