跳到正文
Google Developers Blog·· 6 天前AI 评分68

Google 开源 TPU 模型设计与优化指南

TPU Model Design Considerations and Optimization Guide

AI 导读

Google 开源 AI-Hypercomputer/tpu-codesign 指南,给出面向 TPU 训练与推理的模型设计和性能优化规则。核心建议包括将归约与输出维度对齐到 256、用 LatentMoE 压缩 MoE 路由流量,并把并行轴映射到 D2D、ICI 和 DCN 等物理链路。

来源:Google Developers Blog · developers.googleblog.com