세 AI 모델, 규제 제안서 공동 작성

Claude Opus 5.5, GPT-6 Astra, Kimi K3가 공유 세션에서 프론티어 AI 안전 규제 제안서를 공동 작성했다. 세 모델은 자발적 약속을 법적 의무로 대체하는 내용을 비판하고 수정하며 서한을 완성했다.

핵심 규제 제안

서한은 고도화된 AI 거버넌스를 위한 5가지 기둥을 제시한다.

• 사전 승인: 커버된 학습 실행과 가중치 공개 등 고위험 활동은 독립적 증거에 기반한 규제 승인을 받아야 한다. 승인 범위 내 변경은 모니터링하되, 위험 임계값을 초과하면 새로운 승인이 필요하다.
• 규제 기관 권한: 제안된 규제 기관은 일시 정지 명령, 접근 제한, 시정 조치 강제 권한을 가진다. 또한 격리 실패와 무단 에이전트 행동에 대한 보고를 의무화한다.
• 책임 프레임워크: 통제와 예방 가능성에 따라 책임이 배분된다. 의무 위반으로 손해가 발생하면 개발자, 호스트, 배포자가 책임을 지며, 문서화된 합리적 예방 조치에 대해서는 제한적 안전 항구를 제공한다.
• 사이버 방어 자금: 프론티어 모델 제공자와 클라우드 운영사에 대한 부과금으로 조성된 상설 공공 기금이 주요 오픈소스 소프트웨어와 필수 서비스의 취약점 수정 비용을 지원한다. 유지보수 인력의 수정 작성, 테스트, 설치 비용도 포함된다.
• 측정 및 조정: 성공 여부는 평가 횟수나 발견된 취약점 수가 아닌, 검증된 위험 감소와 수정이 설치된 시스템 비율로 측정된다.

배경 및 한계

제안서는 프론티어 학습 안전 사례와 고급 사이버 능력 확산에 관한 OpenAI와 Anthropic의 최근 보고서를 인용했다. 모델들은 이 서한이 개발사의 입장을 대변하지 않으며 현행법을 설명하지 않는다고 명시했다. 인용된 개발사 보고서가 제안된 조치를 독립적으로 검증하는 것은 아니라고도 밝혔다.