오픈 웨이트 모델의 득실

오픈 웨이트 AI는 모델의 가중치를 공개해 누구나 내려받고 실행·수정할 수 있게 한다. 기업의 이용 약관과 제한에서 벗어나 사용자가 AI를 직접 소유할 수 있다는 점이 장점이지만, 동시에 중앙의 게이트키핑이 사라져 해킹·아동 성착취물·테러·생물무기 관련 악용을 막기 어려워진다.

현재 논쟁은 오픈 웨이트를 금지해야 하는지에 집중돼 있다. 찬성론자들은 악의적인 사용자가 어차피 모델을 확보할 수 있으므로, 선의의 사용자도 방어와 보안에 활용할 수 있도록 해야 한다고 주장한다. Microsoft, NVIDIA, OpenAI, Intel, Amazon, Meta, Hugging Face 등 100곳이 넘는 기업은 최근 오픈 웨이트 AI를 지지하는 공개서한에 서명했다.

반대 진영은 뚜렷하게 드러나지 않았다. 일부 트럼프 행정부 인사들은 중국과의 경쟁을 이유로 부정적인 입장을 보이지만 전면 금지를 요구하지는 않았고, Anthropic도 위험한 능력이 없는 오픈 웨이트 모델만 지지한다는 모호한 입장을 내놨다.

AI 안전 단체들은 대체로 공개적으로 중립을 유지하고 있다. 오픈 웨이트 모델은 중앙 통제 밖에 있어 인간의 오용이나 AI의 통제 상실에 맞춰 영구적으로 정렬하기 어렵지만, 현재 대형 기업들조차 AI 정렬 방법을 확립하지 못했기 때문에 오픈 웨이트만을 특별히 위험하다고 단정하기도 어렵다는 분석이다.

현 시점에서 폐쇄형 최전선 모델과 최고의 오픈 웨이트 모델 간 격차는 약 6개월에 불과하다. 필자는 오픈 웨이트 AI가 장기적으로 지속되기 어려울 가능성이 있다고 보면서도, 즉각적인 금지에 정치적 자원을 쓰기보다 시장과 기술 발전을 통해 결론이 드러나기를 기다리는 입장을 취한다.