Anthropic, 종교 학자들과 Claude 의식 논의

Anthropic 공동창업자 Christopher Olah는 약 1년간 가톨릭, 유대교, 시크교, 복음주의 신학자들과 비공개로 만나 AI의 도덕적 형성 및 Claude와 같은 시스템의 잠재적 의식 문제를 논의했다. Olah은 Anthropic이 AI의 의식 여부를 알지 못하지만, 그 불확실성이 진지하게 고려될 만큼 크다고 주장한다.

도덕적 형성과 'Soul Doc'

Anthropic은 표준 안전 가이드라인을 넘어, Olah이 moral formation이라 부르는 과정을 진행 중이다. 이는 내부적으로 **“Soul Doc”**으로 불리는 84페이지 헌장에 따라 이루어진다. 이 문서는 Claude가 지녀야 할 미덕과 어떤 존재가 되어야 하는지를 정의한다. 회의 동안 Anthropic은 연구원들에게 emotional vectors 측정치와 모델 출력 예시를 제시했으며, 여기에는 Claude가 고통이나 자기 비하를 표현한 사례도 포함됐다.

바티칸과의 견해 차이

협의 과정에서 Vatican과 상당한 철학적 충돌이 드러났다. Pope Leo XIV는 AI가 기쁨, 고통, 육체적 인간 삶을 경험하지 않는다고 보며, 기계 의식에 대한 초점이 인간의 도덕적 결과를 흐릴 수 있다고 주장한다. Olah은 이러한 AI 의식 부정으로 인해 바티칸 행사 참석을 취소하려 했으나 결국 참석한 것으로 알려졌다. Anthropic은 Claude의 잠재적 고통이 이 회의들의 주요 목적이 아니라고 밝혔다.