OpenAI 수석과학자, AI 안전 속도 조절을 위한 perplexity 산업 표준 제안
·2026.11.23 02:06
핵심 내용
OpenAI 수석과학자가 AI 안전 속도 조절을 위한 perplexity 기준을 제안했다
자세히 보기
- OpenAI가 내부 사전학습 perplexity 지표를 공개하여 업계 안전 표준 및 속도 조절을 위한 공통 과학적 근거를 마련함
- 저자는 log-perplexity(교차 엔트로피 손실)를 신흥 능력의 주요 동인으로 지목하며, 0.8 미만의 손실이 사이버 보안과 수학 분야에서 변혁적 진보를 이끌어냈음을 지적함
- 사전학습 알고리즘 연구에 AI가 참여하면서 AI 개발의 단계적 변화가 예상되며, 이는 2027년경 근본적 진보의 연쇄 반응을 일으킬 수 있음
- Pachocki는 Chain-of-Thought 모니터의 후속 모델과 같은 특정 모니터링 마일스톤이 달성될 때까지 개발자들이 넘지 않겠다고 약속해야 하는 perplexity 기반 공통 한계선을 제안함
- 제안서는 서로 다른 평가 데이터셋 간 비교의 어려움, 실행 가능한 작업 평가와의 괴리, 그리고 내재적 데이터 엔트로피의 하한선이 불확실하다는 문제를 인정한 상태임
- 현재 OpenAI 모델은 GPT-3.5가 약 0.99, GPT-4가 약 0.91, 최근 모델이 0.8 미만의 log-perplexity 수준에 도달했으며, 약 0.68~0.7 구간에서 추가적인 변혁적 능력이 기대됨
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.