논평자, Huang의 '출시 금지' 논리는 AI 연구소 폐쇄를 요구한다

이 기사는 Ezra Klein과의 최근 팟캐스트에 출연한 Jensen Huang의 AI 철학에 내재된 모순을 분석한다. Huang은 AI의 실존적 위험을 부인하고 AI를 단순한 소프트웨어로 간주하면서도, 안전하지 않은 제품은 출시해서는 안 된다는 극도로 높은 안전 기준을 주장한다. 논평자는 이 논리를 일관되게 적용하면 절대적 안전을 보장할 수 없는 OpenAI와 같은 실험적 AI 연구소를 폐쇄해야 한다는 결론에 도달한다고 주장한다.

'출시하지 마라'의 역설

Huang은 자율주행차를 예로 들며, 안전 기준을 충족하지 못하는 제품은 출시되어서는 안 된다고 주장한다. 논평자는 현재 LLM이 자율주행차 수준의 안전 기준을 충족하지 못한다고 반박한다. 또한 Huang이 기업들의 자율 규제를 제안하는 것은 경쟁의 게임 이론적 압력과 기업이 개발을 늦추기로 합의할 경우 발생할 수 있는 독점 금지법 위반 가능성을 무시한 것이다. Huang은 기업들이 경쟁적 압력을 받고 있다는 'Pacing the Frontier Letter'의 주장을 일축하며 '아무도 그들에게 압력을 가하지 않는다'고 말했다.

AI 위험과 인센티브에 대한 오해

논평자는 Huang이 정렬(Alignment)을 해결 가능한 기계적 문제로 취급하는 엔지니어링적 사고방식을 AI에 적용하여, 학습된 모델의 예측 불가능성을 인정하지 않는다고 주장한다. Huang은 창발적 불일치 행동과 재귀적 자기 개선에 대한 우려를 '여기에는 의지가 없고, 단지 전기일 뿐이다'라고 일축한다. 그러나 논평자는 Huang이 지속적인 에이전트 시스템의 위험을 과소평가한다고 지적한다. Huang이 대형 기업이 유해한 제품을 출시한 적이 없다고 주장하자, Ezra Klein은 구체적인 회사명은 언급하지 않았지만 많은 사례를 제시할 수 있다고 반박했다.

경제 및 일자리 주장

Huang은 제조업 일자리 감소의 주된 원인을 아웃소싱으로 돌린다. 논평자는 기술과 자동화가 일자리 감소의 70-80%를 차지하는 지배적 요인임을 보여주는 연구(Hicks and Devaraj, 2015)를 인용하며 이를 반박한다. 주니어 소프트웨어 엔지니어 문제에 대해 Huang은 신규 졸업생들이 일자리 위기를 해결할 때까지 2년을 기다리라고 제안했지만, 논평자는 현재 시장 동향을 고려할 때 이 주장이 문제적이라고 판단한다.