고도화된 AI를 위한 공동 표준 구축 지원

고도화된 AI 모델은 사이버 방어 및 과학적 발견을 가속화할 수 있지만, 안전장치가 미비할 경우 심각한 보안 리스크를 초래할 수 있습니다. 이를 해결하기 위해 사회는 모델을 평가하고 관리할 수 있는 기술적, 거버넌스적 역량을 갖춘 기관을 필요로 합니다.

OpenAI는 리눅스 재단(Linux Foundation)이 호스팅하는 Appia Foundation 설립을 지원합니다. Appia는 국제 표준과 프레임워크를 실질적인 평가 기준으로 변환하는 개방형 모듈식 사양을 개발합니다. 이를 통해 서로 다른 조직이 개발한 모델, 인프라, 애플리케이션 간의 호환성을 확인하고 신뢰할 수 있는 기술적 언어를 구축하는 것을 목표로 합니다.

OpenAI는 다음과 같은 체계적인 안전 인프라를 운영하며 표준화 작업에 기여하고 있습니다.

• Preparedness Framework: 고도화된 AI 시스템의 가장 심각한 리스크를 정의하고 관리하는 내부 운영 방식
• Frontier Governance Framework: 리스크 평가, 모델 보고, 보안 제어, 사고 대응 등 규제 의무에 초점을 맞춘 공개 거버넌스 문서
• 제3자 평가 협력: US CAISI 및 UK AISI와의 테스트 파트너십을 통해 생물학적 오용 방지 등 실질적인 시스템 개선 달성

OpenAI는 ISO/IEC JTC 1/SC 42, NIST AI 컨소시엄, Frontier Model Forum 등 다양한 국제 표준화 기구에 참여하며 AI 생태계 전반의 표준화 및 사전 표준화 작업에 기여하고 있습니다.