그래프 위의 직선: AI 발전의 규칙성

AI 발전이 매우 규칙적이고 예측 가능하다는 '그래프 위의 직선(straight lines on graphs)' 직관은 처음에는 의심을 사기 쉽지만, 실제 미래 예측에서 높은 정확도를 보인다.

AI의 능력치는 도메인마다 큰 차이를 보이는 **'들쭉날쭉한 경계(jagged frontier)'**를 가지고 있다. 하지만 각 도메인의 현재 수준은 다르더라도, 발전하는 속도(기울기)는 놀라울 정도로 유사한 경향을 보인다.

최근 **RL(Reinforcement Learning)**의 발전이 AI 발전 속도를 가속화했다는 견해가 있으나, 이는 다음과 같은 이유로 인한 착시일 가능성이 있다.

• 측정 과제가 AI 학습 데이터와 점점 더 밀접해지며 나타나는 현상
• 특정 과제가 AI에 유리한 채점 방식을 가짐
• 데이터 부족으로 인한 통계적 노이즈

AI의 발전은 모든 영역의 성능을 전반적으로 끌어올리는 Pre-training 기반의 발전과, 특정 문제 해결에 집중하는 Post-training 기반의 발전으로 구분할 수 있다.