跳到正文
Google Developers Blog·· 6 天前AI 评分64

Google 如何用 Zero-TIM 在 TPU 上实现稳定的 On-Policy RL

Unlocking Stable On-Policy RL on TPU with Bitwise-Zero Train–Inference Mismatch

AI 导读

Google 介绍了 Tunix 中的 Zero-TIM 实现,它让采样器解码、服务预填充与训练器前向在相同权重和 token 历史下,为采样动作生成逐位一致的 logprob。

来源:Google Developers Blog · developers.googleblog.com