우리의 원칙

OpenAI가 AGI가 소수 기업에 집중되는 미래를 경계하며, 더 많은 사람에게 AI를 돌려주겠다는 방향을 제시했다. 회사는 AI가 개인의 능력과 자율성을 크게 넓힐 수 있지만, 동시에 지금의 선택이 미래의 권력 구조를 결정할 수 있다고 봤다.

핵심 원칙은 Democratization, Empowerment, Universal prosperity, Resilience, Adaptability의 5가지다. 첫째, AI의 결정 권한이 일부 랩에만 쏠리지 않도록 민주적 절차와 평등한 원칙을 강조했다. 둘째, 사용자가 더 많은 일을 해내고 더 큰 가치를 만들 수 있도록 제품을 설계하겠다고 밝혔다.

셋째, 모두가 혜택을 누리는 universal prosperity를 위해 새로운 경제 모델과 대규모 AI infrastructure가 필요하다고 봤다. 그래서 수익 규모에 비해 큰 compute를 선제적으로 확보하고, 비용을 낮추기 위한 수직 통합과 데이터센터 확대를 추진하고 있다고 설명했다.

넷째, resilience 측면에서는 모델이 병원체 생성이나 사이버 공격에 악용될 수 있는 위험에 대응해야 한다고 강조했다. OpenAI는 정부, 국제기구, 다른 AGI 노력과 협력해 사회 전체의 방어 체계를 만들고, 취약한 오픈소스 소프트웨어와 중요 인프라를 보호하는 데 모델을 활용하겠다고 했다.

다섯째, adaptability를 통해 불확실한 미래에 맞춰 원칙을 계속 수정하겠다고 밝혔다. 예전 GPT-2 가중치 공개를 망설였던 경험과 iterative deployment 전략을 언급하며, 앞으로는 역량을 신중히 확장하고 사회와 함께 학습해 나가겠다고 정리했다.