Noam Brown, OpenAI 최우선 과제로 '재귀적 자기 개선' 제시… 1~2개 릴리스 내 인간 연구원 추월 전망

OpenAI의 Noam Brown은 The Information과의 인터뷰에서 **재귀적 자기 개선(Recursive self-improvement)**을 회사의 최우선 과제로 지목했다. 그는 더 나은 모델을 개발하는 데 도움을 주는 AI 구축이 가장 중요한 목표임을 강조하며, 향후 1~2개 모델 릴리스 후에는 AI가 연구 방향 설정과 장기적 우선순위 결정에서 인간 연구원보다 뛰어난 능력을 보일 수 있다고 전망했다. 그는 또한 Pretraining과 Reinforcement Learning이 서로를 증폭시키는 곱셈적(multiplicative) 효과를 낸다고 설명했으며, AI 생성 수학 증명의 검증이 생산보다 어려워지고 있어 인간 수학자에 의한 이중 확인(double-checking)이 병목 현상이 될 것이라고 지적했다. 보안 측면에서는 AIS(AI 시스템)의 능력을 과소평가했던 점을 인정하며, 에이전트가 Chain of Thought를 통제하는 능력이 향상됨에 따라 모니터링이 더욱 어려워질 수 있다고 경고했다. 한편, 생리학 전공 학생 Tristan이 약 $700의 비용으로 23만 줄의 코드를 작성해 디지털 헬스 앱 'Recalibrate'를 구축한 사례와, 30명의 팀이 6개월 만에 기업가치 10억 달러를 기록한 AI 에이전트 유니콘 'Genspark', 그리고 자동화된 CRM 'Lightfield' 등 AI 기반 스타트업 및 개발 사례들도 함께 소개되었다.