미 국방부, Anthropic AI 안전 제한 압박

Anthropic의 CEO Dario Amodei는 AI 안전을 핵심 가치로 내세워 회사를 설립했으나, 미 국방부와 심각한 갈등을 겪고 있다. 국방부는 AI가 이념적 제약 없이 자율 무기 및 대규모 감시 등 군사적 목적으로 활용되어야 한다고 주장한다.

현재 Claude는 Impact Level 6 인증을 통해 미 국방부의 기밀 네트워크에서 운용 중이며, Palantir와 AWS를 통해 정보 분석, 해외 감시, 공격적 사이버 작전 등 민감한 군사 시스템에 이미 통합되어 있다.

Anthropic은 모델의 안전성을 유지하기 위한 두 가지 **'레드라인(Red Lines)'**을 고수하고 있으며, 국방부는 이를 제거하고 모델을 무제한적으로 군사적 용도로 사용할 것을 요구하고 있다. 이는 AI 안전 가이드라인과 국가 안보 요구 사이의 근본적인 충돌을 보여준다.