OpenAI에서 배운 것들 (7분 분량)

AGI가 2~5년 내에 도래할 것으로 예상되는 지금, 높은 실행력을 가진 빌더들에게는 전례 없는 기회가 열리고 있다.

Evals(평가) 설계는 매우 까다로운 작업이다. 좋은 평가는 단순하면서도 구체적이어야 하며, 빠른 피드백과 명확한 신호를 제공해야 한다. 뛰어난 Benchmark는 업계의 Schelling point가 되어, 모든 연구자가 이를 기준으로 모델을 최적화하게 만듦으로써 기술의 방향성을 결정짓는다.

Post-training 데이터 믹스를 설계하는 것은 공학보다는 예술에 가깝다. 인간의 취향과 창의성이 핵심적인 역할을 하기 때문이다. 특히 감성 지능, 유머, 창의적 판단력과 같은 주관적 역량을 모델에 구현하는 것이 AI 발전의 차세대 프론티어가 될 것이다. 또한, ChatGPT canvas와 같은 제품은 단순한 인터페이스를 넘어 사용자의 협업 방식을 데이터화하는 Training signal 수집 도구로 기능한다.

효율적인 AI 연구를 위해서는 내부 툴링이 강력한 경쟁 우위가 된다. 모든 실험에 막대한 연산량을 투입하기보다, FLOP당 최대의 정보를 얻을 수 있는 실험을 설계하는 것이 중요하다. 또한, 연구 결과는 누구나 이해할 수 있도록 하나의 명확한 주장과 시각 자료로 압축되어 전달되어야 한다.