오픈 웨이트 모델에 대한 Anthropic의 입장

최근 중국산 오픈 웨이트(Open-weights) 모델 사용을 금지하려는 움직임에 대해, Anthropic의 CEO Dario Amodei는 자사가 모델 금지를 옹호한 적이 없음을 명확히 했다. 위험성이 없는 오픈 웨이트 모델은 기업과 연구자에게 가치를 제공하는 공공재라는 입장이다.

Amodei는 두 가지 주요 안보 위협을 경고했다. 첫째는 권위주의 정부가 미국보다 강력한 AI를 구축해 군사적 우위를 점하거나 내부 탄압에 사용하는 것이며, 둘째는 강력한 모델이 사이버 공격이나 생물학적 공격에 오용될 위험이다. 그는 모델의 공개 여부보다 모델 자체가 비밀리에 훈련되어 특정 군사/정보 기관에만 제공되는 상황이 더 위험하다고 지적했다.

이러한 문제를 해결하기 위해 Anthropic은 다음과 같은 세 가지 조치를 지지한다.

• 고성능 칩 및 제조 장비의 중국 수출 제한: 스케일링 법칙(Scaling laws)에 따라 칩 공급을 차단하는 것이 중국의 모델 성능 향상을 막는 가장 직접적인 방법이다.
• 산업적 규모의 지식 증류(Distillation) 규제: 칩 부족을 우회하여 효율적으로 모델을 복제하는 증류 작업을 단속해야 한다.
• [기타 조치 생략됨]

결론적으로, 미국 기업의 오픈 웨이트 모델 사용을 금지하는 것은 실제 악의적인 행위자(Bad actors)를 막는 데 도움이 되지 않으며, 단지 미국 AI 기업의 경쟁력을 약화시킬 뿐이라고 강조했다.