Frontier AI 투명성 확보의 필요성

AI 기술이 급격히 발전함에 따라 공공 안전과 기업의 책임성을 보장하기 위한 투명성 확보가 시급하다. 완전한 안전 표준이 정립되기 전까지, 가장 강력한 AI 모델을 안전하고 책임감 있게 개발하기 위한 중간 단계로서 **타겟형 투명성 프레임워크(Targeted Transparency Framework)**를 제안한다.

이 프레임워크는 혁신을 저해하지 않도록 유연하고 가벼운 규제를 지향하며, 모든 개발자가 아닌 최대 규모의 모델 개발사에만 적용된다. 적용 기준은 컴퓨팅 파워, 비용, 평가 성능, 연간 매출 및 R&D 지출 등을 고려하며, 스타트업의 부담을 줄이기 위해 적절한 면제 조항을 포함한다.

핵심 구성 요소는 다음과 같다:

• 보안 개발 프레임워크(Secure Development Framework) 구축: 화학, 생물, 방사능, 핵(CBRN) 위험 및 모델 자율성 오정렬 위험을 평가하고 완화하는 절차 수립.
• 프레임워크 공개: 보안 개발 프레임워크를 공개하여 연구자와 정부가 모델의 안전성을 확인할 수 있도록 함.
• 시스템 카드(System Card) 발행: 테스트 및 평가 절차, 결과, 완화 조치를 요약한 문서를 배포 시 공개.
• 내부 고발자 보호: 프레임워크 준수 여부에 대해 허위 사실을 유포하는 행위를 법적 위반으로 규정하여 실질적인 법적 책임을 강화.