AI 책임성 확보를 위한 경로 구축

Anthropic은 최근 NTIA의 AI 책임성에 관한 의견 요청(Request for Comment)에 응답하며, 고성능 및 범용 AI 모델을 위한 책임성 메커니즘을 제안했다.

주요 권고 사항은 다음과 같다:

• 평가 연구 지원: AI 모델 평가 연구를 위한 정부 지원을 확대하고, 기업이 지식재산권을 보호하는 범위 내에서 평가 방법과 결과를 공개하도록 의무화해야 한다. 장기적으로는 NIST와 협력하여 산업 표준과 벤치마크를 구축해야 한다.
• 위험 대응형 평가: 기만(deception)이나 자율성(autonomy)과 같은 핵심 위험을 타겟팅한 표준 역량 평가를 개발해야 한다. 설정된 **위험 임계값(risk threshold)**을 기준으로, 임계값을 초과하고 안전 조치가 불충분한 모델은 배포를 중단하고 규제 기관에 통보해야 한다.
• 대규모 학습 사전 등록: AI 개발자가 대규모 학습을 시작하기 전, 모델 사양, 컴퓨팅 인프라, 안전 계획 등을 정부에 보고하는 **기밀 등록제(confidential registry)**를 도입하여 잠재적 위험에 대비해야 한다.
• 제3자 감사인 역량 강화: 기술적 이해도가 높고, 지식재산권 및 국가 안보를 보호할 수 있는 보안 의식을 갖춘 유연한 감사인을 활용해야 한다.