앤스로픽, 알리바바가 AI 모델 증류를 통해 기술을 탈취하려 한다며 고발

AI 스타트업 Anthropic이 중국 기술 기업 Alibaba를 상대로 자사의 AI 역량을 불법적으로 추출하려 시도했다며 미국 상원 위원회에 공식 서한을 보냈습니다. 앤스로픽은 알리바바 측이 Distillation(증류) 공격을 통해 자사 모델의 기술을 탈취하려 했다고 주장했습니다.

Distillation은 기존의 강력한 모델로부터 출력값을 추출하여 더 작고 성능이 낮은 모델을 구축하는 AI 학습 방법입니다. 앤스로픽의 발표에 따르면, 알리바바 소속 운영자들은 지난 4월 22일부터 6월 5일 사이 약 25,000개의 허위 계정을 사용하여 자사 모델과 2,880만 회의 대화를 주고받았습니다.

이번 사건은 트럼프 행정부가 산업적 규모의 증류 공격에 대응하기 위한 협력을 촉구한 지 두 달 만에 발생했습니다. 앤스로픽은 알리바바가 정부의 경고를 무시하고 공격을 강행했다고 덧붙였습니다.

한편, 앤스로픽은 최근 트럼프 행정부로부터 국가 안보를 이유로 최신 모델인 Fable 5와 Mythos 5에 대한 접근을 제한하라는 수출 통제 지침을 받은 상태이며, 현재 정부 관계자들과 이 문제를 해결하기 위해 협의 중입니다.