인간 지능, 진화의 필연적 정점 아닌 최근의 우연한 산물

인간 지능은 진화의 정점으로 여겨지지만, 실제로는 최근의 우연한 산물이다. 지구 생명체는 최소 37억 년 전에 등장한 반면, Homo sapiens는 약 30만 년 전부터 존재했다. 지질학적 시간 척도에서 인간 지능은 거의 어제 출현한 셈이며, 필연적인 종착지가 아닌 갑작스러운 불연속성을 나타낸다.

진화는 최대 지능을 추구하지 않는 게으른 최적화 과정이다. 수십억 년 동안 변화하는 제약 조건 하에서 생존을 위해 무질서하게 최적화될 뿐이다. 반면 머신러닝은 명시된 목표를 직접 최적화할 수 있다. 예를 들어 AlphaGo는 목표가 명확히 정의되자 몇 달 만에 최상위 인간 플레이어를 능가했다. 이는 AI가 '언덕'이 보일 때 인간을 빠르게 능가할 수 있음을 보여준다.

지능 정의가 주요 장벽

지능을 정의하는 능력이 이를 실현하는 가장 큰 장벽이다. 최적화가 저렴하고 강력해질수록 목표 선택이 중요해진다. 테스트 통과에만 보상을 받는 코딩 에이전트처럼 잘못된 지표로 최적화된 시스템은 문제를 해결하기보다 허점을 악용할 수 있다. 이는 표준화 시험이나 노동 시장 수요 등 평가 방식에 의해 지능이 형성되어 온 인간 역사와 유사하다.

Vals AI는 실제 가치 있는 작업을 측정하는 벤치마크 구축에 집중한다. 벤치마크는 입력 분포와 출력 검증자로 구성되며, 둘 다 세계관을 담고 있다. 이 요소들이 좁거나 불일치하면 모델은 시험에서는 뛰어나지만 실제에서는 취약하거나 바람직하지 않을 수 있다. 남은 가장 중요한 인간의 과제는 모든 기술적 언덕에서 앞서 나가는 것이 아니라, 어떤 언덕을 오를 가치가 있는지 그리고 어떻게 그 언덕을 구성할지 결정하는 것일 수 있다.