Fable 5의 사이버 보안 보호 조치 및 탈옥(Jailbreak) 프레임워크 상세 정보

Anthropic은 Claude Fable 5의 글로벌 재배포와 함께, 모델의 오용을 방지하기 위한 사이버 보안 보호 조치(Cybersecurity Safeguards) 및 **AI 탈옥 심각도 프레임워크(AI Jailbreak Severity Framework)**의 상세 내용을 공유했다.

사이버 보안 기술은 방어와 공격에 모두 쓰이는 이중 용도(Dual-use) 특성을 가진다. 이에 따라 Anthropic은 모든 보안 관련 활동을 차단하는 대신, 위험도에 따라 네 가지 카테고리로 분류하여 관리한다.

• Prohibited use: 방어적 효용이 거의 없고 심각한 피해를 줄 수 있는 활동 (차단)
• High-risk dual use: 악의적 사용자가 널리 사용하지만 유익한 응용 분야도 있는 활동 (차단)
• Low-risk dual use: 주로 방어 목적으로 사용되나 악용 가능성이 있는 활동 (모니터링 및 필요 시 차단)
• Benign use: 해를 끼치지 않는 활동 (허용 및 모니터링)

또한, AI의 안전장치를 우회하는 **탈옥(Jailbreak)**의 심각도를 정의하기 위한 프레임워크 초안을 제시했다. 이는 개발자와 정부 간의 일관된 위험 소통을 목적으로 하며, 보안 연구자들이 발견한 탈옥 사례를 제출할 수 있는 HackerOne 프로그램도 함께 운영한다.