그 미지의 세계 (6분 읽기)

오는 7월 6일, OpenAI에 전략적 미래(Strategic Futures) 팀의 수장으로 합류하게 되었습니다. 이 팀은 Jason Kwon 최고 전략 책임자(CSO) 직속의 소규모 고효율 팀으로, 프론티어 AI 정책 수립을 핵심 임무로 수행합니다.

주요 다루는 영역은 다음과 같습니다:

• 재앙적 위험(Catastrophic risk) 및 재귀적 자기 개선(Recursive self-improvement)
• 노동 시장에 미치는 영향
• 프론티어 AI 연구소, 정부(특히 미국 연방 정부) 및 사회 간의 관계

이 팀은 외부 정책 제안뿐만 아니라 내부 거버넌스(Internal governance) 구축에도 집중합니다. AI 기술의 발전 양상을 정확히 이해하기 위해 기술 스태프 및 Preparedness 팀과 긴밀히 협력할 예정입니다.

프론티어 AI 연구소는 사회의 기존 제도들과 새로운 관계를 맺는 새로운 형태의 기관이 될 것이며, AI 자체가 새로운 형태의 거버넌스 기술 역할을 하게 될 것입니다. 이에 따라 AI 거버넌스의 핵심 결정이 연구소 내부에서 이루어질 가능성이 높다는 판단하에, 정책적 통찰력을 실현하기 위해 연구소 내부로 합류를 결정했습니다.

개인적인 분석 채널인 Hyperdimensional은 독립성을 유지하며 운영될 예정입니다. OpenAI 소속으로서의 역할과 별개로, 개인적인 글쓰기와 X(구 트위터) 활동, 출간 예정인 저서에 대해서는 완전한 지적 독립성을 보장받기로 했습니다.