OpenAI, 오픈 모델 가중치에 관한 NTIA 의견서 제출

OpenAI는 NTIA의 이중 용도 파운데이션 모델에 관한 정보 요청에 대응하여, 안전하고 유익한 AI를 위한 다양한 경로가 존재한다는 의견을 제출했다.

과거 GPT-2 개발 당시, OpenAI는 모델의 오용 가능성을 평가하기 위해 단계적 공개(staged release) 방식을 채택했다. 이후 GPT-3 단계에서는 기술 상용화를 통한 연구 비용 확보와 오용에 대한 즉각적인 대응을 위해 API 기반 출시 전략을 선택했다.

OpenAI는 오픈 소스 생태계의 가치도 인정하며, CLIP이나 Whisper와 같은 모델의 가중치를 공개해 왔다. 오픈 가중치 공개는 다음과 같은 이점을 제공한다:

• AI 모델 내부 구조에 대한 학술 연구 촉진
• 사용자 및 조직의 에지 디바이스 내 로컬 모델 실행 지원
• 사용자 목적에 맞는 창의적인 모델 수정 가능

동시에 ChatGPT와 같은 API 및 제품 기반 방식은 출시 후 발견되는 위험을 지속적으로 완화할 수 있는 장점이 있다. 예를 들어, Microsoft와 협력하여 GPT-3.5-Turbo 및 GPT-4를 악용한 국가 지원 사이버 위협 세력을 탐지하고 차단할 수 있었던 것은 가중치를 직접 공개하지 않았기에 가능했다.

결론적으로 OpenAI는 오픈 가중치 공개와 API 기반 출시가 모두 유익한 AI 생태계를 구축하는 데 필수적인 도구라고 강조했다.