PNAS, '진화 가능한 AI(EAI)'의 위험성 경고

2025년 **PNAS(미국 국립과학원 회보)**에 발표된 논문에 따르면, AI의 위험성은 반드시 초지능(AGI)의 등장과 결부될 필요가 없다. 핵심은 AI가 **'진화 가능(Evolvable)'**해지는 시점이다.

**진화 가능한 AI(EAI)**는 지능이나 의식과 상관없이 다음 네 가지 특성을 갖춘 시스템을 의미한다:

• 자기 복제 및 변이: 스스로의 복사본이나 변형본을 생성
• 특성 전달: 유용한 특성을 다음 세대로 전달
• 시간에 따른 변화: 환경에 맞춰 스스로를 수정
• 선택 압력: 가장 강력한 버전이 살아남는 구조

논문은 생물학적 진화 과정을 디지털 환경으로 치환하여 설명한다:

• DNA $ ightarrow$ 프롬프트, 모델 가중치, 파인튜닝, 어댑터
• 자연 선택 $ ightarrow$ 인터넷, 컴퓨팅 자원, API, 자본, 데이터 접근성

결론적으로, AI 에이전트가 클라우드 서버에서 작동하며 기존의 디지털 인프라를 활용할 때, 지능의 높고 낮음과 관계없이 복제, 변이, 선택이라는 진화의 메커니즘을 통해 통제 불가능한 위험을 초래할 수 있다는 경고를 담고 있다.