AI 정책의 창이 열렸다. 지금 행동해야 한다

Chris Lehane OpenAI 글로벌 정책 책임자는 AI 능력의 비약적 발전에 맞춰 정책 입안자들이 즉각 행동해야 한다고 촉구했다. 그는 완전한 규제보다 실질적인 안전 조치와 능력 기반(capability-based) 규제를 우선시해야 한다고 강조했다.

OpenAI는 캘리포니아 주의회를 통과한 SB 813, AB 1405, SB 1119, AB 1864 등 4개 법안을 공식 지지했다. 이 법안들은 독립 안전 평가 인프라 구축, AI 감사자 표준 수립, 청소년 보호 장치 의무화, AI 기반 생물학적 위협 방지 등을 내용으로 한다. Lehane은 이러한 주 단위 입법이 연방 규제를 대체하는 것이 아니라, 연방 차원의 표준이 마련되기 전 공백을 메우고 기준을 높이는 '역연방주의(reverse federalism)' 접근이라고 설명했다.

내부 안전 조치 및 재귀적 자기 개선

OpenAI는 내부적으로 프론티어 연구 워크로드 격리를 강화하고, 모델 행동 모니터링을 확대하는 등 안전 조치를 강화하고 있다. 특히 Astra 모델에 대해 전체 궤적 보편적 모니터링과 배포 전 필수 정렬 평가를 도입했다. Jakub Pachocki 최고과학자는 재귀적 자기 개선(recursive self-improvement) 가능성에 대해 극도의 주의를 기울여야 한다고 경고했으며, 현재 완전한 자율적 RSI는 발생하지 않았고 안전이 확보될 때까지 이를 추구하지 않을 것이라고 밝혔다.

규제 범위와 국제 표준

OpenAI는 연방 규제가 최전선(frontier) 시스템을 개발하는 소수의 자원 풍부한 실험실에만 적용되어야 한다고 주장하며, 스타트업과 오픈 모델 개발자는 제외해야 한다고 제안했다. 또한 자발적 약속만으로는 부족하므로 Frontier Safety Blueprint를 통해 공통 테스트와 독립 평가를 의무화해야 한다고 덧붙였다. Lehane은 미국이 기술적 우위뿐만 아니라 신뢰 확보를 통해 지속 가능한 리더십을 유지하려면 강력한 보호 장치가 필수적이며, 호환 가능한 국제 표준 수립이 시급하다고 결론지었다.