Google ZERO-TIM, 64개 TPU v5p에서 비트 단위 동일한 logprobs 달성

·2026.11.16 09:00

핵심 내용

Google ZERO-TIM이 TPU에서 수치 불일치를 제거해 온-폴리시 안정성을 확보했다.

자세히 보기

  • Google의 ZERO-TIM 구현이 64개의 TPU v5p 칩에서 샘플러와 트레이너의 비트 단위 동일한 logprobs를 달성함
  • 독립적인 서빙 및 학습 경로에 내재된 부동소수점 덧셈 오류 문제를 해결함
  • TPU 메시 전반에 걸쳐 일관된 산술 연산과 표준화된 리덕션 순서를 적용하여 안정성을 확보함
  • 수치적 불일치를 제거함으로써 RL 학습에서 진정한 온-폴리시(on-policy) 안정성을 보장함

이 한국어 요약은 AI가 자동으로 만들었습니다. 원문의 주장과 맥락은 원문에서 확인해 주세요. 저작권은 원저작자에게 있습니다.

AI 처리 방식을 확인하거나, 요약 오류와 출처 표기 문제, 삭제 요청을 문의 · 건의로 알려주세요.