Anthropic, 캘리포니아 AI 규제 법안 SB 53 지지

Anthropic이 강력한 AI 시스템을 규제하는 캘리포니아의 SB 53 법안을 지지한다고 발표했다. 이는 이전의 규제 시도였던 SB 1047의 교훈을 바탕으로 한 결정이며, 연방 차원의 규제가 이상적이지만 기술 발전 속도에 맞추기 위해 주 정부 차원의 대응이 필요하다는 판단이다.

SB 53은 기술적 강제보다는 공시 요구사항을 통해 'trust but verify(신뢰하되 검증하라)'는 원칙을 구현한다. 이 법안은 대규모 AI 개발사에 다음과 같은 의무를 부과한다:

• 재난적 위험 관리를 위한 safety frameworks 개발 및 공개
• 모델 배포 전 위험 평가 및 조치 사항을 담은 transparency reports 발행
• 중대한 안전 사고 발생 시 15일 이내에 주 정부에 보고
• 규정 위반 및 공공 안전 위험에 대한 whistleblower protections(내부 고발자 보호) 제공
• 프레임워크 준수 여부에 대한 공개적 책임 및 미준수 시 금전적 처벌

이러한 요구사항은 Anthropic의 Responsible Scaling Policy나 system cards 공개와 같은 기존 관행과 일치한다. 또한 Google DeepMind, OpenAI, Microsoft 등 다른 주요 연구소들도 유사한 접근 방식을 채택하고 있다.

SB 53은 스타트업과 소규모 기업에 대한 면제 조항을 포함하여 불필요한 규제 부담을 줄이는 동시에, 대형 개발사 간의 공정한 경쟁 환경을 조성하여 안전을 희생하며 경쟁하는 것을 방지하는 데 목적이 있다.