Anthropic CEO, AI 규제론

앤스로픽(Anthropic)의 공동 창립자이자 CEO인 **다리오 아모데이(Dario Amodei)**는 최근 X를 통해 AI에 대한 대중의 신뢰 위기를 인정했다.

그는 AI 규제가 권력 집중을 초래한다는 주장과 오픈 모델을 통한 분산이 최선이라는 주장 사이의 이분법적 논리를 경계하며, 사법 시스템과 같은 제도가 권력을 분산할 수 있다고 강조했다.

아모데이는 AI의 권력 집중이 규제 때문이 아니라, 모델 성능이 자원 투입량에 비례해 향상되는 스케일링 법칙(Scaling Laws) 때문이라고 분석했다. 오픈 웨이트 모델 역시 컴퓨팅 자원을 가진 이들에게 권력이 집중되는 문제를 완전히 해결하지는 못한다고 덧붙였다.

그는 다음과 같은 목표를 동시에 달성하는 '도로 규칙(rules of the road)'이 필요하다고 제안했다:

• 사이버, 바이오, 정렬(Alignment) 관련 위험 대응
• 프런티어 AI 기업의 권력에 대한 제도적 제약
• 오픈 웨이트 모델의 발전 가능성 확보

또한, 그는 금융 규제 기구인 FINRA와 유사한 AI 관리 기구의 필요성을 지지하며, 트럼프 행정부의 AI 테스트 관련 입장에도 동의를 표했다.