Rich Sutton의 AI 창의성과 발견

지도학습 기반의 생성 AI는 기존 데이터를 모방하는 모델로서, 요약이나 답변 생성에는 유용하지만 과학적·수학적 새로운 발견에는 한계가 있습니다. 데이터의 범위를 벗어난 새로운 시도는 단순한 **환각(Hallucination)**으로 간주될 위험이 있기 때문입니다.

진정한 창의성과 발견을 위해서는 **변이(Variation), 평가(Evaluation), 선택적 보존(Selective Retention)**의 세 단계가 결합되어야 합니다. 이는 자연선택이나 과학적 방법론과 유사하며, 기계학습 측면에서는 **강화학습(Reinforcement Learning)**의 핵심 원리와 맞닿아 있습니다.

AlphaGo, AlphaFold, Claude-Code와 같은 성공적인 시스템들은 단순히 데이터를 모방하는 것이 아니라, 평가와 선택적 보존을 통해 새롭고 가치 있는 결과를 찾아냈습니다. 따라서 AI가 자율적인 과학자가 되기 위해서는 명확한 목표를 공유하고, 스스로 결과물을 만들고 평가하며 발견을 반복하는 창의성의 자동화가 필요합니다.