Nathan Lambert, 오픈 웨이트 모델 사이버 위험 논쟁의 결함 지적

Nathan Lambert는 오픈 웨이트 AI 모델의 사이버 위험 논쟁이 복잡한 트레이드오프와 생태계 역학을 무시하고 있어 결함이 있다고 주장한다. 그는 오픈 모델에 대한 공포로 인한 정책 결정이 미국의 AI 경쟁력을 제한하는 동시에 장기적인 사이버 위험을 증가시킬 수 있다고 지적한다.

오픈 웨이트 반대 논리의 결함

Lambert는 논쟁의 세 가지 주요 관점을 식별한다. 프런티어 랩과 국가 안보 당국은 오픈 웨이트를 용납할 수 없는 위험으로 간주하며, 중도파는 방어를 위해 오픈 웨이트가 필수적이라고 주장하고, 중국 기업들은 자체적인 위험 평가를 바탕으로 모델을 공개한다. 그는 "오픈 웨이트 반대 동맹"이 중국 기업이 왜 자사 모델의 공개를 안전하다고 판단하는지와 같은 교차 질문에 제대로 대응하지 못한다고 비판한다.

저자는 오픈 모델이 유일하게 위험하다는 서사에 의문을 제기하며, 공개된 정보에 따르면 대부분의 기존 사이버 공격은 폐쇄형 모델이 원인으로 기록되었다고 지적한다. 그는 "오픈은 위험하고 폐쇄는 안전하다"는 통념이 사실은 "오픈은 안전하지 않고 폐쇄도 안전하지 않다"일 수 있음을 시사한다. 폐쇄형 모델 API는 안전장치에도 불구하고 접근성이 매우 높기 때문이다. Lambert는 사이버 위험 확산을 늦추기 위해 오픈 웨이트 모델을 금지한다면, 프런티어 폐쇄형 모델의 공개 API도 제한해야 한다고 주장한다. 후자의 역량이 안전장치를 초과할 수 있기 때문이다.

중국의 AI 위험 대응 태세

Lambert는 중국 기업들이 기술 낙관주의와 정치적 안정에 초점을 맞춘 내생적 관점에서 AI 안전성을 접근한다고 설명한다. 안전성 논쟁이 활발한 미국과 달리, 중국 랩은 모델을 정부에 등록하지만 사이버 특화 평가 프레임워크의 범위는 불분명하다. 그는 중국 연구자들의 개인적 위험이 더 높으며, 랩들은 출시를 지연시킬 수 있는 수천만 달러 규모의 포괄적인 안전성 평가보다 경쟁에 집중하도록 인센티브를 받는다고 지적한다.

재앙적 예측에 대한 반증

이 기사는 사이버 무기로 예고되었으나 대규모 사회 불안정화를 초래하지 않은 Claude Mythos를 둘러싼 과열 현상을 다룬다. Lambert는 실제로 역량 임계값을 넘은 모델이 GLM-5.3임을 지적하며, 출시 한 달이 넘도록 전례 없는 피해에 대한 공개 증거는 거의 없다고 말한다. 그는 오픈 웨이트 공포론자들이 반증 가능한 예측을 하고 있으며 이는 틀린 것으로 보인다고 결론짓는다. 오픈 웨이트 모델은 오히려 에어갭 환경에서 사이버 방어를 위한 필수 도구가 될 수 있다는 것이다.