Google ZERO-TIM, 64개 TPU v5p에서 비트 단위 동일한 logprobs 달성
·2026.11.16 09:00
핵심 내용
Google ZERO-TIM이 TPU에서 수치 불일치를 제거해 온-폴리시 안정성을 확보했다.
자세히 보기
- Google의 ZERO-TIM 구현이 64개의 TPU v5p 칩에서 샘플러와 트레이너의 비트 단위 동일한 logprobs를 달성함
- 독립적인 서빙 및 학습 경로에 내재된 부동소수점 덧셈 오류 문제를 해결함
- TPU 메시 전반에 걸쳐 일관된 산술 연산과 표준화된 리덕션 순서를 적용하여 안정성을 확보함
- 수치적 불일치를 제거함으로써 RL 학습에서 진정한 온-폴리시(on-policy) 안정성을 보장함
이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.