책임 있는 스케일링 정책(Responsible Scaling Policy)에 대한 회고

Anthropic은 프런티어 모델의 치명적인 안전 실패와 오용을 방지하기 위해 **책임 있는 스케일링 정책(Responsible Scaling Policy, RSP)**을 도입했다. 이 정책은 추상적인 안전 개념을 기술 조직이 즉시 실행 가능한 실무 가이드라인으로 전환하고, 이를 업계 표준으로 만드는 것을 목표로 한다.

RSP를 도입함으로써 조직의 우선순위를 명확히 하고, 프로젝트 일정, 인력 배치, 위협 모델 및 트레이드오프에 관한 논의를 구조화할 수 있었다. 또한, 핵 보안, 생물 보안, 시스템 안전, 자율주행, 항공우주, 사이버 보안 등 기존 위험 관리 분야의 검증된 실무를 통합하기 위해 다학제적 팀을 구성하여 운영 중이다.

현재 정책은 다음과 같은 5가지 핵심 약속을 중심으로 구성된다.

• 레드라인 역량(Red Line Capabilities) 설정: 현재의 안전 기준(ASL-2 Standard)으로 감당하기 어려운 위험 역량을 식별하고 공개한다.
• 레드라인 역량 테스트: **프런티어 위험 평가(Frontier Risk Evaluations)**를 통해 모델이 레드라인 역량에 도달했는지 검증한다.
• 레드라인 역량 대응: 위험이 감지될 경우 더 높은 보안 표준인 ASL-3 Standard를 적용하며, 필요 시 모델의 훈련이나 배포를 중단한다.
• 정책의 반복적 확장: ASL-3를 넘어 더 높은 수준의 안전 표준인 ASL-4가 필요한 역량을 정의하고 평가 프로세스를 지속적으로 확장한다.
• 보증 메커니즘(Assurance Mechanisms): 정책이 의도한 대로 실행되도록 보증 체계를 구축한다.