Anthropic, AI 개발 일시 중단 제안

검증 가능성 확보: 다른 글로벌 개발사들이 실제로 개발 속도를 조절하고 있는지 확인할 수 있는 체계 마련.
보안 및 공정성: 특정 행위자가 협력적인 개발 중단을 악용하여 비밀리에 기술적 우위를 점하는 것을 방지.

Anthropic이 사회적 대응력을 높이기 위해 프론티어 AI 개발의 검증 가능한 일시 중단을 제안했다.

Anthropic은 기술 발전 속도에 맞춰 사회적 구조와 AI 정렬(Alignment) 연구가 병행될 수 있도록, 프론티어 AI 개발을 일시적으로 늦추거나 중단할 수 있는 옵션이 필요하다고 밝혔다.

이를 위해 Anthropic Institute는 다음과 같은 시스템 구축을 목표로 한다:

Anthropic은 만약 다른 프론티어 AI 개발사들이 검증 가능한 방식으로 개발을 늦춘다면, 자사 또한 이에 동참할 의사가 있음을 명시했다.