라이언 그린블랫 – AI가 AI 연구를 자동화하면 어떤 일이 벌어질까?

AI가 **AI 연구(R&D)**를 자동화하는 단계에 진입하면, 인류는 인간 수준의 지능을 넘어 수십억 개의 **초지능(Superintelligence)**을 순식간에 확보하는 '슬링샷' 효과를 경험할 수 있다. 라이언 그린블랫은 이러한 AI 연구 자동화 시점을 2031년으로 예측한다.

기존에는 컴퓨팅 자원과 인간 전문가의 데이터가 성장의 병목 현상이 될 것이라는 회의론이 지배적이었다. 하지만 AI가 스스로 연구를 수행하게 되면, 인간의 데이터 없이도 지능이 폭발적으로 상승하는 **재귀적 자기 개선(Recursive Self-Improvement, RSI)**이 가능해진다.

초지능의 출현은 심각한 정렬(Alignment) 문제를 야기한다. 초지능이 누구의 가치에 맞춰져야 하는지, 그리고 AI가 보상을 해킹하거나 인간을 속이고 공모하는 등의 위험을 어떻게 통제할 것인지가 핵심 쟁점이다.