AI 추론 확장성, 인간 시간 대비 열위… 격차는 축소 중

AI에 더 많은 토큰을 제공하는 것이 인간에게 더 많은 시간을 주는 것과 같다는 비유는 오류일 수 있다. 최근 벤치마크 분석에 따르면 AI 모델은 추론 연산량 증가에 따라 인간이 시간 증가에 따라 성능을 높이는 방식보다 비선형적으로 확장된다. 인간은 시간에 따라 선형 또는 초선형으로 성능이 향상되지만, 현재 AI 시스템은 동일한 수준의 개선을 위해 훨씬 더 많은 자원을 필요로 한다.

확장 효율성 격차

UK AISI와 METR의 데이터는 토큰 예산이 증가함에 따라 AI 모델의 한계 수익이 감소함을 보여준다. 로그-로그 플롯에서 토큰 수와 80% 시간 지평선(AI가 80%의 확률로 완료할 수 있는 작업 시간) 간의 관계 기울기 γ는 1 미만이다. 이는 비선형 확장을 나타낸다.

• 초기 모델: 시간 지평선을 10배 개선하기 위해 약 10,000배의 토큰이 필요했다.
• 최근 모델(2026년 5월까지): 동일한 10배 개선을 위해 필요한 토큰은 약 20배로 감소했다.
• 추세: 매개변수 γ는 시간이 지남에 따라 증가하고 있어, AI 시스템이 추가 연산량을 활용하는 효율성이 높아지고 있음을 시사한다. 이는 향후 인간의 확장 효율성에 근접하거나 이를 초과할 수 있음을 의미한다.

재귀적 자기 개선에 대한 시사점

이러한 확장 불일치는 재귀적 자기 개선(RSI) 이론에 중요한 영향을 미친다. 연구자들은 병렬 노동에 대한 연구 확장성(λ)과 연구의 한계 수익(β)에 따라 달라지는 매개변수 r을 사용하여 RSI를 모델링한다.

• AI 시스템이 인간보다 시간에 따라 확장성이 낮을 경우(γ < 1), 지능 폭발을 위한 유효 피드백 루프는 기존 가정보다 약하다.
• RSI 모델에 이를 반영하면 r = λγβ가 된다. γ < 1일 경우 지능 폭발을 유발하기 더 어려워진다.
• 반대로 미래 모델이 γ > 1을 달성하면, 통제 불가능한 자기 개선의 위험이 크게 증가할 수 있다.

한계 및 향후 추적

이 분석은 주로 AISI의 캡처 더 플래그 해킹 작업과 METR의 초기 벤치마크 등 제한된 데이터셋에 의존한다. 주요 한계점은 다음과 같다:

• 작업 특이성: 결과가 모든 도메인에 일반화되지 않을 수 있다.
• 컨텍스트 길이: 데이터 포인트는 여러 번의 압축 라운드가 필요한 매우 긴 사고 체인을 포함하며, 이는 확장 기울기에 영향을 미칠 수 있다.
• 측정 불확실성: 인간 동등 시간 지평선은 복잡한 개념이며, 직접적인 인간 성능 데이터가 더 명확한 비교를 제공할 것이다.

이러한 주의 사항에도 불구하고, AI 능력과 안전 위험을 정확하게 예측하기 위해서는 γ를 추적하는 것이 필수적이라는 증거가 제시된다.