在今晚的 Vision 2024 活动中，英特尔发布了新一代 Gaudi 3 AI芯片，并将于2024 年第三季度通过 OEM 系统大批量上市。

　　据介绍，新款 Gaudi 3与英伟达 H100 相比训练性能提高了 170%，推理能力提高了 50%，效率提高了 40%，但成本却低得多。

　　此外，英特尔还为其数据中心 CPU 产品组合推出了全新品牌命名：原代号为 Granite Rapids 和 Sierra Forest 的芯片现在将被称为 “Xeon 6” 系列。这些芯片计划于今年上市，并将支持全新性能提升的标准化 MXFP4 数据格式。

　　英特尔同时宣布正在开发用于以太网网络的 AI NIC ASIC 以及 AI NIC 小芯片。这些小芯片将用于其未来 XPU 和 Guadi 3 处理器，并将通过英特尔代工厂提供给外部客户，不过英特尔并未透露更多关于这些网络产品的细节。

　　英特尔声称，Gaudi 3 的 FP8 性能是上一代产品的两倍，BF16 性能是上一代产品的四倍，网络带宽是上一代产品的两倍，内存带宽是上一代产品的 1.5 倍。

　　Gaudi 提供了两种外形尺寸，其中 OAMHL-325L 是基于高性能 GPU 的系统中常见外形设计。

　　该加速器集成了 128GB HBM2e，可提供 3.7 TB / s 的带宽。它还具有 24 个 200 Gbps 以太网 RDMA NIC。

　　HL-325L OAM 模块具有 900W TDP，额定 FP8 性能为 1,835 TFLOPS。OAM 以每个服务器节点 8 个为一组进行部署，然后可以扩展到 1,024 个节点。