프론티어 모델 보안

프론티어 AI 모델의 능력이 급격히 향상됨에 따라, 시스템 보안 확보가 핵심 과제로 부상하고 있다. Anthropic은 모델의 도난이나 오용을 방지하기 위해 기존 상업 기술의 표준을 훨씬 상회하는 수준의 보안이 필요하다고 강조한다.

특히 고급 AI 모델과 모델 가중치(weights), 그리고 이를 뒷받침하는 연구 데이터를 보호해야 한다. 이를 위해 AI 분야를 **'핵심 인프라(critical infrastructure)'**로 취급하여 민관 협력을 강화하고, 향후 정부의 조달이나 규제를 통한 준수 강제 방안도 고려해야 한다.

보안을 위한 핵심 원칙으로 **'2인 통제(two-party control)'**를 제안한다. 이는 특정 개인이 운영 환경에 지속적으로 접근할 수 없도록 설계하여, 업무상 필요 시 동료의 승인을 거쳐 제한된 시간 동안만 접근 권한을 부여받는 '다자간 승인(multi-party authorization)' 방식을 의미한다.

또한, NIST의 SSDF(Secure Software Development Framework)와 SLSA(Supply Chain Levels for Software Artifacts)와 같은 표준을 준수하는 안전한 소프트웨어 개발 관행이 프론티어 AI 환경 전반에 확산되어야 한다.