谷歌最强 TPU Trillium 芯片商用:性能提升4.7倍、内

2024-12-12 15:29:27

  在 I/O 开发者大会上,谷歌正式宣布 Trillium TPU。官方称相比上一代,Trillium TPU 在训练性能上提升 4 倍以上,推理吞吐量提升高达 3 倍,在效率方面,Trillium TPU 能源效率提高 67%,每美元训练性能提升高达 2.5 倍,推理性能提升高达 1.4 倍。

  在规模扩展方面,单个 Jupiter 网络结构可容纳 10 万个 Trillium 芯片,双倍的 HBM 容量和 ICI 带宽,支持大规模 AI 训练。

  官方称 Trillium 近乎线性的扩展能力,配合高速芯片互连和 Jupiter 数据中心网络,显著加快大型模型训练速度,在训练 gpt3-175b 模型时,即使跨数据中心网络运行,24 个 Pod也能达到 94% 的扩展效率。

下一篇:奇瑞 iCAR V23 预售权益升级,积分可兑换车顶行李
上一篇:账号“徐里里Xll”回应被比亚迪起诉:未删任何
返回顶部小火箭