英特尔发布至强 6 性能核处理器与 Gaudi 3 AI 加速
英特尔当地时间昨日发布了至强 6 性能核“Granite Rapids”处理器与 Gaudi 3 AI 加速器。
英特尔此次同步推出了至强 6 性能核处理器中的 6900P 系列,这些 CPU 除采用 UCC 核心设计的至强 6900P 外,英特尔还准备了最多双计算模块 86 核的 XCC、最多单计算模块 48 核的 HCC、最多单计算模块 16 核的 LCC。
而在至强 6 产品线上,英特尔计划在明年一季度推出性能核系列的至强 6700P、至强 6500P、至强 6 SoC、至强 6300P,以及能效核系列的至强 6900E。
Gaudi 3 AI 加速器专门针对大规模生成式 AI 进行了优化,拥有用于加速深度神经网络计算的 64 个 TPC 张量处理器核心和 8 个矩阵乘法引擎 MME,并配备 128GB HBM2e 内存和 24 个 200Gb 以太网接口。
英特尔宣称,相较英伟达 H100 Tensor Core GPU,其 Gaudi 3 加速器在 LLaMa 2 70B 开源 LLM 推理上吞吐量高出最多 20% 的同时性价比可达前者 2 倍。