AI 그랜트 프로그램에 대한 민주적 의견 수렴: 교훈과 실행 계획

OpenAI는 AI 모델을 인류의 가치에 정렬(align)하기 위해 대중의 의견을 반영하는 Democratic Inputs to AI 그랜트 프로그램을 진행했다. 약 1,000개의 지원 중 선정된 10개 팀에 각각 10만 달러를 지원하여 AI 거버넌스를 위한 도구와 아이디어를 설계했다.

선정된 팀들은 법률, 저널리즘, 머신러닝, 사회과학 등 다양한 분야의 전문가들로 구성되었으며, 다음과 같은 혁신적인 접근 방식을 선보였다:

• 새로운 비디오 토론 인터페이스
• AI 모델에 대한 크라우드소싱 감사 플랫폼
• 표현 보장(representation guarantees)을 위한 수학적 공식화
• 모델 미세 조정(fine-tuning)을 위한 신념 매핑 방식

프로젝트 과정에서 AI는 맞춤형 채팅 인터페이스, 음성-텍스트 변환, 데이터 합성 등의 형태로 프로세스 자체에 유용하게 활용되었다.

주요 학습 내용 중 하나는 대중의 의견이 빈번하게 변한다는 점이다. OpenAI는 이번 프로그램에서 얻은 교훈을 바탕으로 외부 이해관계자의 의견을 수집하고, 이를 실제 모델의 행동을 형성하고 학습시키는 데 사용하는 엔드 투 엔드(end-to-end) 프로세스를 구축할 계획이다.