美 상원, AI 안전성 강화 법안 초안 공개

미 상원 다수당 대표 John Thune, 상무위원장 Ted Cruz, Amy Klobuchar, Maria Cantwell 상원의원은 프런티어 AI 개발사에 대한 규제 법안을 협상하고 있다. 이 법안은 최첨단 AI 모델 개발자에게 **'주의 의무(duty of care)'**를 부과하고, 정부가 위험하다고 판단한 모델의 출시를 차단할 수 있는 권한을 부여하며, 기업의 이의 제기는 연방 법원을 통해 진행하도록 규정한다.

규제 대상은 Google, Anthropic, OpenAI 등 주요 AI 기업이다. Cruz 의원은 생물학적 또는 핵 위협과 관련된 **재앙적 위험(catastrophic risks)**을 해결하는 데 초점을 맞추고 있다고 밝혔다. Klobuchar 의원은 AI 모델의 안전성을 검증하기 위해 개발자가 정부 전문가와 협력하도록 요구하는 내용을 포함한다고 설명했다.

규제 강도 및 쟁점

• Maria Cantwell 상원의원은 더 엄격한 규제를 주장하며, 연방 기준이 주(state) 차원의 강력한 보호 장치를 무력화하는 약한 연방 표준이 되어서는 안 된다고 강조했다.
• 또한 가장 강력한 AI 모델은 **국립 연구소(national laboratories)**의 과학자와 전문가에 의한 테스트를 의무화해야 한다고 제안했다.
• Anthropic은 해당 법안에 대해 공식적인 입장을 밝히지 않았으나, 입법 관계자들에게 의견을 전달하고 있는 것으로 알려졌다.