优刻得发布DPU裸金属训练集群
北京商报
2024-03-20 21:55:24

原标题:优刻得发布DPU裸金属训练集群

北京商报讯(记者 杨月涵)3月20日,“优刻得云计算”官微发布消息称,在近日的AI盛会GTC专题会议环节,优刻得研发总监王晓慧发布了基于DPU裸金属的训练集群,演示了集群在大模型场景的应用实践。在英伟达的支持下,优刻得率先将DPU应用于裸金属物理云,实现了软件定义的计算、存储和网络,助力集群计算效率提升。她强调,DPU裸金属训练集群为高带宽、低延迟、数据密集的大模型训练场景提供强大的计算引擎,大幅提升了网络处理能力和数据传输速度。

据介绍,基于DPU裸金属所构建的训练集群在高性能计算、数据和模型并行处理等方面优势突出,可轻松应对大模型时代下的严苛性能要求和工作负载挑战。DPU裸金属集群可以提供训练所需的强大算力,具备千卡规模的模型训练能力;同时以低延迟、高吞吐的特性,充分满足了大规模数据处理和高并发场景的需求,加速模型训练过程。此外,DPU的引入赋予了训练集群更高的灵活性和可扩展性,使得用户能够根据实际业务需求灵活选择适配的硬件和软件堆栈,确保持续优化模型的训练性能和效

相关内容

热门资讯

人工智能训练师到底有多﹃香﹄ 十六岁就能考、初级不设学历限制 人工智能训练师到底有多﹃香﹄ 3月22日,成都市首批人工智能训练...
Anthropic联创:两年内... 来源:市场资讯 (来源:新智元) 新智元报道 编辑:倾倾 【新智元导读】AI自主训练的成绩单出炉了...
从桐庐驶向全球!奥立安智能船型... 3月29日,第29届上海国际船艇及其技术设备展览会在上海世博展览馆启幕。来自桐庐的奥立安新能源科技(...
国光电器申请音频信号补偿方法专... 国家知识产权局信息显示,国光电器股份有限公司申请一项名为“音频信号补偿方法、装置、电子设备和存储介质...
文山市480余名“小小飞手”同... 三月春光正好,科技梦想启航。3月28日,文山市第二届青少年无人机大赛在文山市第十一小学拉开序幕,来自...