Anthropic 공동 창립자, AI 내부 구조의 불확실성 경고

Anthropic의 공동 창립자인 Christopher Olah는 바티칸 연설을 통해 고도화된 AI 시스템 내부에서 발생하는 현상이 여전히 미스터리하고 불안정하다고 밝혔습니다.

Olah는 연구팀이 AI 내부 구조에서 인간의 신경과학적 특성 및 기쁨, 공포, 슬픔과 같은 감정적 상태와 유사한 패턴을 지속적으로 발견하고 있다고 설명하며, 이에 대한 지속적인 통찰과 주의가 필요하다고 강조했습니다.

이와 관련하여 교황은 **'Magnifica Humanitas'**라는 회칙을 통해 AI의 잠재적 위험성을 경고하며, AI를 **'무장 해제(disarmed)'**해야 한다는 표현을 사용하여 강력한 글로벌 가드레일 마련과 책임 있는 규제의 시급성을 역설했습니다.