性能暴降92%?英特尔中国“特供版”AI芯片曝光
芯智讯
2024-04-14 19:25:36

原标题:性能暴降92%?英特尔中国“特供版”AI芯片曝光

据外媒The register报道,继不久前英特尔正式发布了新一代AI加速芯片Gaudi 3 之后,正准备面向中国市场推出“特供版”Gaudi 3,包括名为HL-328的OAM兼容夹层卡(Mezzanine Card)和名为HL-388的PCle加速卡两种硬件形态。

英特尔在其Gaudi 3 白皮书中披露了上述信息,其中HL-328将于6月24日推出,HL-388将于9月24日推出。

具体硬件规格方面,中国特供版的Gaudi 3 与原版相比,具有相同的96MB SRAM片上内存, 128GB HBM2e高带宽内存,带宽为 3.7TB/s,拥有PCIe 5.0 x16 接口和解码标准。但是,由于美国对于AI芯片的出口管制规则限制,使得这类高性能AI的综合运算性能(TPP)需要低于4800才能出口到中国, 这意味中国特供版的Gaudi 3 的16bit性能不能超过150 TFLOPS。

根据英特尔公布的数据显示,Gaudi 3 在 FP16/BF16 上可以达到 1835 TFLOPS,相比英伟达H100在大模型训练方面快40%、推理能效高50%。

显然,中国特供版的Gaudi 3 需要大幅降低AI性能,才能合规出口到中国。因此,中国特供版Gaudi 3 需要大幅削减内核数量(原版拥有 8 个矩阵数学引擎和64 个张量内核)和工作频率,最终可能需要其AI性能降低约92%才能符合美国的出口管制要求。

由于中国特供版Gaudi 3 AI性能的降低,这也将使得其TDP(热设计功耗)大幅降低。根据曝光的资料显示,中国特供版Gaudi 3的OAM卡和PCIe卡的TDP均为450瓦,而原版PCIe卡(HL-338)的TDP高达600瓦,原版OAM卡(HL-325L、HL-335)的TDP更是高达900瓦。

可以预见的是,英特尔专为中国市场推出的“特供版”Gaudi 3的OAM兼容夹层卡(HL-328)和PCle加速卡(HL-388)的AI性能将会与英伟达针对中国市场推出的AI加速卡H20相当,它具有 148 TFLOPS 的 FP16/ BF16 性能,略低于 150 TFLOPS 的限制。但是,在HBM容量及带宽上,英特尔中国特供版Gaudi 3将低于英伟达H20,这也使得其在与英伟达H20的竞争当中可能将处于劣势,当然具体也要看定价是否有优势。

相关文章《超越英伟达H100!英特尔Gaudi3发布:训练快40%,推理快50%!》

编辑:芯智讯-浪客剑

相关内容

热门资讯

原创 为... 其实,我认为没那么复杂,就一个原因,现在不是不好玩了,是会玩的人太多了,什么时候的三角洲是最好的,毫...
5G覆盖、无人值守,老煤矿“焕... 来源:北京日报客户端 记者从中国煤炭工业协会获悉,我国已建成智能化煤矿超过1000处,煤矿智能化建设...
对话元知合汇管理合伙人余朝辉:... 图源:图虫创意 来源丨时代商业研究院 作者丨陆烁宜 编辑丨郑琳 在A股市场大规模扩容和IPO审核趋严...
探讨国内智能家居品牌加工厂,哪... 在智能家居市场蓬勃发展的当下,越来越多的消费者开始关注智能家居产品,而选择一家性价比高的智能家居品牌...
最高200万/部!快手入局短剧... 来源:市场资讯 (来源:温静聚焦) 主编温静导读:4月1日,快手磁力引擎成立短剧生态业务中心,推...