책임 있는 스케일링 정책 V3

Anthropic은 AI 시스템의 파괴적 위험을 완화하기 위한 자발적 프레임워크인 **책임 있는 스케일링 정책(Responsible Scaling Policy, RSP)**의 세 번째 버전을 공개했다. 이번 업데이트는 지난 2년간의 운영 경험을 바탕으로 기존 정책의 장점을 강화하고, 의사결정의 투명성과 책임성을 높이기 위한 새로운 조치를 포함한다.

RSP의 핵심 원칙은 조건부(if-then) 약속이다. 만약 AI 모델이 특정 능력 수준(예: 생물 무기 제조 지원 능력)을 초과할 경우, 모델 오용이나 가중치 탈취를 방지하기 위한 더 엄격한 안전 장치를 도입하도록 설계되었다.

안전 조치는 **AI Safety Level(ASL)**에 따라 단계별로 적용된다. 현재 ASL-2와 ASL-3에 대한 세부 지침은 정의되어 있으나, 차세대 모델을 위한 ASL-4 이상의 단계는 기술 발전에 맞춰 구체화할 계획이다.

Anthropic은 RSP를 통해 다음과 같은 변화를 이끌어내고자 한다:

• 내부 강제 기능: 신규 모델의 학습 및 출시 과정에서 안전 장치를 필수 요구사항으로 설정.
• 상향 평준화(Race to the top): 업계 전반이 안전 기준을 강화하도록 유도하여 자발적 산업 표준 형성.
• 위험에 대한 합의 형성: 특정 능력 임계값 도달 시, 이를 근거로 정부 및 타 기업과 다자간 협력 추진.
• 미래 대응: 개별 기업이 대응하기 어려운 고위험 상황에 대비해 글로벌 차원의 안전 조치 협력.