#kl-divergence
#kl-divergence와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#kl-divergence와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Apple Research가 best-of-N이 이론적 한계에 근접하고 PPO, GRPO는 비최적임을 증명했다.
모델의 평가 지표에 따라 필요한 어노테이터의 수가 달라지므로, 목표 지표에 맞춘 데이터 수집 전략이 필요하다.
저자는 SFT, RL, OPD를 분포 관점에서 비교하며 정책 기반 샘플링의 중요성을 강조했다.