OpenAI, AGI 5대 원칙 공개…올트먼, 더 큰 역할 인정

OpenAI가 일요일 AGI 개발을 위한 5대 원칙 문서 Our Principles를 공개했다. 회사는 AI 권력이 소수에게 집중되는 것을 막겠다고 밝히며, 2018년 Charter 이후 가장 분명한 입장 정리에 나섰다.

원칙은 다섯 가지다.

• Democratization: AI 의사결정을 연구실이 아니라 민주적 절차에 맡긴다.
• Empowerment: 사용자에게 넓은 자율성을 주되, 피해가 불확실하면 보수적으로 대응한다.
• Universal prosperity: 컴퓨트 증설, 수직 통합, 글로벌 데이터센터 확장을 통해 인프라 비용을 낮추고 이익을 넓힌다.
• Resilience: 생물무기·사이버 위험 대응에서 기업, 정부, 생태계와 협력하고 Foundation 자원을 투입한다.
• Adaptability: 기술 변화에 맞춰 원칙을 수정할 수 있으며, 그 이유도 공개하겠다고 했다.

샘 올트먼은 OpenAI가 2018년 Charter 시점보다 훨씬 커졌다고 인정했다. 그는 경우에 따라 empowerment보다 resilience를 더 우선해야 할 수도 있다고 적었고, 2019년 GPT-2 가중치 공개를 늦춘 일도 되짚으며 그 논란이 이후 기본 출시 전략이 된 점진적 배포를 발견하게 했다고 설명했다.

이번 문서는 1년 전의 Preparedness Framework보다 한 단계 위의 정책 선언에 가깝다. 미국과 유럽의 frontier AI 규제가 강화되는 가운데, OpenAI는 Frontier Model Forum과 미국·영국 AI 안전 연구기관과의 협력을 거론하며 공개적 기준을 앞세우고 있다.

최근에는 Pentagon 업무를 둘러싼 감시 논란과 캘리포니아의 첫 주 차원 frontier AI 안전법이 동시에 압박으로 작용했다. OpenAI는 규제 당국이 본격적으로 규칙을 쓰기 전에 스스로의 공적 입장을 하나로 묶으려는 모습이며, 올트먼은 회사가 모든 것을 맞히지 못할 수 있지만 빠르게 배우고 수정하겠다고 덧붙였다.