优刻得发布DPU裸金属训练集群
北京商报
2024-03-20 21:55:24

原标题:优刻得发布DPU裸金属训练集群

北京商报讯(记者 杨月涵)3月20日,“优刻得云计算”官微发布消息称,在近日的AI盛会GTC专题会议环节,优刻得研发总监王晓慧发布了基于DPU裸金属的训练集群,演示了集群在大模型场景的应用实践。在英伟达的支持下,优刻得率先将DPU应用于裸金属物理云,实现了软件定义的计算、存储和网络,助力集群计算效率提升。她强调,DPU裸金属训练集群为高带宽、低延迟、数据密集的大模型训练场景提供强大的计算引擎,大幅提升了网络处理能力和数据传输速度。

据介绍,基于DPU裸金属所构建的训练集群在高性能计算、数据和模型并行处理等方面优势突出,可轻松应对大模型时代下的严苛性能要求和工作负载挑战。DPU裸金属集群可以提供训练所需的强大算力,具备千卡规模的模型训练能力;同时以低延迟、高吞吐的特性,充分满足了大规模数据处理和高并发场景的需求,加速模型训练过程。此外,DPU的引入赋予了训练集群更高的灵活性和可扩展性,使得用户能够根据实际业务需求灵活选择适配的硬件和软件堆栈,确保持续优化模型的训练性能和效

相关内容

热门资讯

原创 让... AG超玩会在挑杯一诺回归之后,虽然成绩比起春季赛确实进步了,但总决赛却在3-1领先的情况下,被狼队连...
布米普特拉北京投资基金管理有限... 随着人工智能能力日益精进,职场人的焦虑感也在同步攀升。然而,亚马逊创始人杰夫·贝索斯给出了一个截然相...
两款AI智能体在临床决策中的表... 两款基于大语言模型的AI智能体在虚拟测试中展示出媲美乃至超越医生的临床决策能力,但研究人员表示,目前...
布局前沿未来产业 深耕脑科学健... 2026 年 6 月18日,依托安徽大力发展脑机接口未来产业的政策东风,深耕 AI 智能康养多年的安...
原创 1... 答应大家的618热销榜机型介绍,我已经连续更新了多期,反响还挺好,之前很多消费者虽然很想在618期间...