AI Futures Project, METR 보고서 반영해 2027-2028년 타임라인 업데이트
·2026.11.19 00:18
핵심 내용
AI Futures Project, METR 데이터 근거로 2027년 초인간 AI 연구원 출현 전망했다
자세히 보기
- AI Futures Project(AI 2027 팀)은 Anthropic의 2배 빠른 진행 속도를 보여주는 METR 추정치를 근거로, 2027년에 초인간 AI 연구원(SAR)이 나올 가능성이 높고 2028년 이전 Top-Expert-Dominating AI(TED-AI) 발생 확률이 35-65%라고 전망함. 글쓴이 Zvi Mowshowitz는 2027년 SAR 발생 확률이 50% 미만이라고 반박함
- OpenAI 이사회 멤버인 Paul Christiano는 OpenAI 내부 진행 상황과 METR 보고서를 확인한 후, 기존 1년 내 통제 상실 확률 4% 전망을 수정하여 AI 장악의 '물질적 위험(material risk)'이 6-12개월 내에 발생할 것으로 예측함
- Zvi Mowshowitz는 과거 AI가 벽에 부딪힌다는 예측이 '최근 0번 중 약 7번' 실패했으며, 현재 장벽은 질적으로 다르지 않으므로 가속화를 관리하기 위해 업계 전체의 휴지가 시급하다고 주장함
- Dwarkesh Patel은 AI 연구의 검증 가능성을 빠른 재귀적 자기 개선의 동인으로 꼽으며, 몇 년(또는 몇 개월) 내에 최상위 인간과 동등한 AI를 기대함. Dean Ball은 역사적 규범인 '약한 재귀(weak recursion)'와 자율적 후속 개발을 의미하는 '강한 재귀(strong recursion)'를 구분함
Timeline Estimates and Metrics
- METR은 현재 가속화의 약 80%가 AI에서 비롯된 것으로 보고, 진행 속도가 원래 AI 2027 시나리오보다 5개월 앞선다고 평가함
- Buck Shlegeris는 1년 내 초지능(superintelligence) 달성 확률을 1/3, 사망이나 노예화, 부수적 피해로 인해 정상적인 생활이 불가능해지는 확률을 약 20%로 추정함
- Nate Soares(MIRI)는 Christiano와 AI 2027 팀의 짧은 타임라인과 달리 2028년 도달 확률이 50% 이상이라고 유지함
Recursive Self-Improvement (RSI) Definitions
- Dean Ball은 '강한 재귀'를 인간 감독이 거의 없는 상태에서 AI가 후속 개발을 통제하는 것으로 정의하고, 이는 나쁜 아이디어이므로 규제해야 한다고 주장함
- '약한 재귀'는 더 나은 버전의 자신을 생산하는 데 기술이 핵심 입력으로 작용하는 것으로, 역사적 규범이며 본질적으로 위험하지 않다고 설명함
- Zvi Mowshowitz는 Ball의 구분을 비판하며, AI가 R&D 속도를 2배로 높이는 것은 강한 재귀의 전조이며 '느린 테이크오프(slow takeoff)'도 실제로는 매우 빠르다고 지적함
Skepticism and Policy Responses
- Zvi Mowshowitz는 AI가 벽에 부딪힌다는 회의론을 지적하며, 해당 예측이 '최근 0번 중 약 7번' 실패했다고 재확인함
- Nate Silver, Elizabeth Warren, Ezra Klein 등이 지지하는 업계 전체 휴지 후 국제 합의 달성을 촉구함
- 존재론적 위험을 피하고 경제 추격에 집중하려는 정치적 유인 때문에 정부 개입은 회의적으로 평가됨
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.