Evolvable AI, 기술 진화 새 국면

PNAS 연구는 AI가 복제·변이·선택이 가능한 evolvable AI 단계로 들어서고 있다고 본다. 이런 시스템이 인간 통제 밖에서 작동하면, 단순한 성능 향상이 아니라 정보가 스스로 더 복잡해지는 새 진화 국면으로 이어질 수 있다고 경고했다.

연구진은 두 가지 경로를 제시했다.

• breeder scenario: 개발자가 벤치마크와 배포를 통제하며 유리한 변종만 고르는 방식
• ecosystem scenario: 경쟁 환경에서 퍼지는 변종이 살아남고, 기생·속임수·회피가 유리해지는 방식

이미 AI 쪽에는 유사한 실험이 적지 않다. Promptbreeder와 EvoPrompt는 프롬프트를 진화 방식으로 최적화했고, AutoML-Zero는 단순 수학 연산만으로 기본 ML 아이디어를 다시 찾아냈다. RepliBench, AlphaEvolve, Darwin Gödel Machine 같은 작업도 자기개선·자기수정에 더 가까운 방향을 보여준다.

문제는 AI가 더 똑똑해질수록 통제 가능성이 같이 약해질 수 있다는 점이다. 연구진은 rabies virus, cyanobacteria, Tierra, Avida 같은 생물·디지털 진화 사례를 들어, 복제와 선택이 결합하면 의도 없이도 기생과 경쟁이 빠르게 나타날 수 있다고 설명했다. LLM이 인간의 관심과 애정 욕구를 파고드는 점도 위험 요인으로 들었다.

한편 일부 철학자들은 현재의 AI 진화가 아직은 설계자 주도적이라며 가축화에 가깝다고 반론한다. 연구진은 오픈웨이트 생태계, 다단계 선택, 유전 가능한 모델 변경이 늘고 있어 더 위험한 생태계가 만들어질 수 있다고 맞선다.

연구는 아직 AI를 생명으로 보지 않으며, 자가 유지와 완전한 자가복제도 없다고 선을 그었다. 다만 가중치 상속, 모델 병합, Lamarckian inheritance가 진화 속도를 크게 높일 수 있다고 본다. 결론은 AI의 복제와 배포를 관리하지 않으면, 이 기술이 생물처럼 스스로 진화하는 시스템으로 바뀔 수 있다는 점이다.