英特尔发布 Gaudi3 芯片：性能超越英伟达H100，第三季度广泛上市
IT之家 4 月 9 日消息，在今晚的 Vision 2024 活动中，英特尔发布了新一代 Gaudi 3 AI 芯片，并将于 2024 年第三季度通过 OEM 系统大批量上市。
据介绍，新款 Gaudi 3 与英伟达 H100 相比训练性能提高了 170%，推理能力提高了 50%，效率提高了 40%，但成本却低得多（IT之家注：H100 已经是英伟达上一代产品，英特尔并未与最新的 Blackwell 系列产品进行对比）。
此外，英特尔还为其数据中心 CPU 产品组合推出了全新品牌命名：原代号为 Granite Rapids 和 Sierra Forest 的芯片现在将被称为 “Xeon 6” 系列。这些芯片计划于今年上市，并将支持全新性能提升的标准化 MXFP4 数据格式。
英特尔同时宣布正在开发用于以太网网络的 AI NIC ASIC 以及 AI NIC 小芯片。这些小芯片将用于其未来 XPU 和 Guadi 3 处理器，并将通过英特尔代工厂提供给外部客户，不过英特尔并未透露更多关于这些网络产品的细节。
英特尔声称，Gaudi 3 的 FP8 性能是上一代产品的两倍，BF16 性能是上一代产品的四倍，网络带宽是上一代产品的两倍，内存带宽是上一代产品的 1.5 倍。
Gaudi 提供了两种外形尺寸，其中 OAM（OCP 加速器模块）HL-325L 是基于高性能 GPU 的系统中常见外形设计。
该加速器集成了 128GB HBM2e，可提供 3.7 TB / s 的带宽。它还具有 24 个 200 Gbps 以太网 RDMA NIC。
HL-325L OAM 模块具有 900W TDP（可能有更高的 TDP，表面上采用液冷），额定 FP8 性能为 1,835 TFLOPS。OAM 以每个服务器节点 8 个为一组进行部署，然后可以扩展到 1,024 个节点。