Anthropic, 2026년 Usage Policy 개정… 자율 행동 및 기만 행위 통제 강화

Anthropic이 모델 능력 변화와 오남용 사례에 대응하기 위해 2026년 11월 12일 발효되는 새로운 Usage Policy를 공개했다. 이번 업데이트는 기만적 활동에 대한 규정을 통합하고, 무기 및 감시 관련 금지 사항을 명확히 하며, 자율적 물리적 행동에 대한 새로운 요구사항을 도입했다.

기만적 캠페인과 선거

기만적 캠페인 또는 인위적 활동 금지라는 새 섹션이 산재했던 기존 제한 사항을 통합했다. Claude를 이용해 가짜 계정 네트워크를 운영하거나, 가짜 뉴스 사이트를 제작하거나, 메시지 출처를 은폐하는 행위를 금지한다. 민주적 과정 훼손 금지로 명칭이 변경된 선거 관련 섹션은 유권자 기만과 선거 방해를 구체적으로 겨냥하며, 합법적인 시민 활동을 허용하기 위해 개인화된 투표 타겟팅에 대한 전면 금지는 해제했다.

무기 및 감시 규정 명확화

드론 유도 시스템을 포함해 무기용 소프트웨어 및 부품 개발에 Claude를 사용하는 것을 명시적으로 금지한다. 감시 규정은 강화되어 동의 없이 개인을 추적하거나 Claude를 통해 조사 또는 체포 대상을 결정하는 행위를 금지한다. 이러한 변경 사항은 기존 집행 관행을 반영하되, 금지된 활동에 대해 더 정확한 언어를 제공한다.

고위험 사용 사례 및 자율적 행동

건강, 금융, 법률 분야의 고위험 사용 사례에 대한 요건은 유지되며, 자격을 갖춘 human in the loop과 AI 사용 공개를 의무화한다. Model Hardware Standard 출시 이후, Claude가 자율적 물리적 행동이 가능한 하드웨어에 연결될 경우 새로운 통제가 적용된다. 운영자는 장비를 관찰하고 정지할 수 있어야 하며, 연결이 끊어질 경우에도 안전 상태를 유지해야 한다.

학대적 행동 및 지역 제한

분명한 목적 없이 모델에 대해 지속적이고 잔인한 행동을 하는 것을 금지하는 새로운 조항이 추가되었다. 이는 Claude가 지속적으로 학대하는 사용자와의 대화를 종료할 수 있는 기존 능력과 일치한다. Supported Regions Policy는 지원되지 않는 지역에 설립되거나 본사를 두거나 해당 지역인이 다수 지분을 소유한 단체에 대한 접근을 금지하도록 명확히 했다.