미국, Google·xAI·Microsoft AI 사전검증 확대

미 상무부 산하 CAISI(Center for AI Standards and Innovation)가 Google DeepMind, xAI, Microsoft의 미공개 AI 모델을 출시 전 평가하는 체계를 확대했다.

OpenAI와 Anthropic이 이미 참여하던 사전검증 체계가 주요 미국 프론티어 AI 랩으로 넓어진 셈이며, 목적은 사이버공격, 군사적 오용, 화학·생물학 무기 개발, 훈련 데이터 오염 같은 위험을 미리 가려내는 데 있다.

• OpenAI는 GPT-5.5-Cyber를 CAISI와 테스트 중이다.
• Microsoft는 정부 과학자들과 shared datasets와 테스트 워크플로를 만든다.
• Google DeepMind는 proprietary models와 데이터를 제공한다.
• CAISI는 이미 40건 이상의 평가를 마쳤고, 공개 전 모델도 포함됐다.

개발사들은 종종 안전장치를 줄인 버전을 넘겨 CAISI가 공격 시나리오를 시험하도록 하며, 이 과정에서 red-teaming으로 우회 기법과 사이버 취약점이 드러났다. CAISI는 앞으로 통신·응급서비스 같은 critical infrastructure용 AI 테스트 지침도 준비 중이다.