OpenAI 수석과학자, AI 안전 속도 조절을 위한 perplexity 산업 표준 제안

·2026.11.23 02:06

핵심 내용

OpenAI 수석과학자가 AI 안전 속도 조절을 위한 perplexity 기준을 제안했다

자세히 보기

  • OpenAI가 내부 사전학습 perplexity 지표를 공개하여 업계 안전 표준 및 속도 조절을 위한 공통 과학적 근거를 마련함
  • 저자는 log-perplexity(교차 엔트로피 손실)를 신흥 능력의 주요 동인으로 지목하며, 0.8 미만의 손실이 사이버 보안과 수학 분야에서 변혁적 진보를 이끌어냈음을 지적함
  • 사전학습 알고리즘 연구에 AI가 참여하면서 AI 개발의 단계적 변화가 예상되며, 이는 2027년경 근본적 진보의 연쇄 반응을 일으킬 수 있음
  • Pachocki는 Chain-of-Thought 모니터의 후속 모델과 같은 특정 모니터링 마일스톤이 달성될 때까지 개발자들이 넘지 않겠다고 약속해야 하는 perplexity 기반 공통 한계선을 제안함
  • 제안서는 서로 다른 평가 데이터셋 간 비교의 어려움, 실행 가능한 작업 평가와의 괴리, 그리고 내재적 데이터 엔트로피의 하한선이 불확실하다는 문제를 인정한 상태임
  • 현재 OpenAI 모델은 GPT-3.5가 약 0.99, GPT-4가 약 0.91, 최근 모델이 0.8 미만의 log-perplexity 수준에 도달했으며, 약 0.68~0.7 구간에서 추가적인 변혁적 능력이 기대됨

이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.

AI 처리 방식을 확인하거나, 요약 오류와 출처 표기 문제, 삭제 요청을 문의 · 건의로 알려주세요.