优刻得发布DPU裸金属训练集群
北京商报
2024-03-20 21:55:24

原标题:优刻得发布DPU裸金属训练集群

北京商报讯(记者 杨月涵)3月20日,“优刻得云计算”官微发布消息称,在近日的AI盛会GTC专题会议环节,优刻得研发总监王晓慧发布了基于DPU裸金属的训练集群,演示了集群在大模型场景的应用实践。在英伟达的支持下,优刻得率先将DPU应用于裸金属物理云,实现了软件定义的计算、存储和网络,助力集群计算效率提升。她强调,DPU裸金属训练集群为高带宽、低延迟、数据密集的大模型训练场景提供强大的计算引擎,大幅提升了网络处理能力和数据传输速度。

据介绍,基于DPU裸金属所构建的训练集群在高性能计算、数据和模型并行处理等方面优势突出,可轻松应对大模型时代下的严苛性能要求和工作负载挑战。DPU裸金属集群可以提供训练所需的强大算力,具备千卡规模的模型训练能力;同时以低延迟、高吞吐的特性,充分满足了大规模数据处理和高并发场景的需求,加速模型训练过程。此外,DPU的引入赋予了训练集群更高的灵活性和可扩展性,使得用户能够根据实际业务需求灵活选择适配的硬件和软件堆栈,确保持续优化模型的训练性能和效

相关内容

热门资讯

【每日一招】夏日“降温神器”,... 夏季,“冷感喷雾” 是不少人的“降温神器” 但好用≠安全 “冷感喷雾” 为何能带来清凉感 “冷感喷雾...
苹果Vision Pro助力完... 医疗技术公司 Stryker 本周宣布,其专为 Apple Vision Pro 开发的 Sport...
【活动回顾】玩转科学小实验,解... 点/击/蓝/字/关/注/我/们 玩转科学小实验 解锁“水的向上魔法” 8月28日,益阳市科技馆内童趣...
青履微记|一行代码,唤醒一方乡... 新质生产力的浪潮奔涌 一串串代码,构筑数字世界的万千图景 当这份技术力量向着广阔乡野延伸 那些被埋没...
微信最新公告:集体下架 近日 “微信珊瑚安全”发布 关于“AI魔改”视频阶段性治理的 公告(第十一期) 👇 根据国家广播电视...