표적 규제의 필요성

AI 시스템은 과학적 진보와 경제 성장을 가속화할 잠재력이 있지만, 동시에 심각한 위험을 동반한다. 정부는 향후 18개월 이내에 선제적인 AI 정책을 마련해야 하며, 혁신을 저해하지 않으면서 위험을 완화하는 **표적 규제(Targeted Regulation)**를 도입해야 한다.

AI의 역량은 최근 급격히 향상되었다. SWE-bench 소프트웨어 엔지니어링 작업 해결률은 Claude 2(1.96%)에서 Claude 3.5 Sonnet(49%)으로 급증했다. 또한 GPQA 과학 벤치마크 점수 역시 OpenAI o1이 77.3%를 기록하며 인간 전문가 수준(81.2%)에 근접했다.

이러한 발전은 사이버 공격 및 CBRN(화학, 생물, 방사능, 핵) 분야의 오용 위험을 높인다. 특히 모델이 생물학 및 화학 분야에서 박사급 전문가 수준의 지식을 제공할 수 있다는 점이 확인되었으며, 이러한 위험은 모델의 성능과 함께 빠르게 확장될 전망이다.

Anthropic은 이러한 불확실성에 대응하기 위해 **책임 있는 스케일링 정책(Responsible Scaling Policy, RSP)**을 운영하고 있다. 이는 AI 시스템이 특정 **역량 임계값(Capability Thresholds)**을 달성할 때 그에 비례하여 안전 및 보안 조치를 강화하는 적응형 프레임워크다.