优刻得发布DPU裸金属训练集群
北京商报
2024-03-20 21:55:24

原标题:优刻得发布DPU裸金属训练集群

北京商报讯(记者 杨月涵)3月20日,“优刻得云计算”官微发布消息称,在近日的AI盛会GTC专题会议环节,优刻得研发总监王晓慧发布了基于DPU裸金属的训练集群,演示了集群在大模型场景的应用实践。在英伟达的支持下,优刻得率先将DPU应用于裸金属物理云,实现了软件定义的计算、存储和网络,助力集群计算效率提升。她强调,DPU裸金属训练集群为高带宽、低延迟、数据密集的大模型训练场景提供强大的计算引擎,大幅提升了网络处理能力和数据传输速度。

据介绍,基于DPU裸金属所构建的训练集群在高性能计算、数据和模型并行处理等方面优势突出,可轻松应对大模型时代下的严苛性能要求和工作负载挑战。DPU裸金属集群可以提供训练所需的强大算力,具备千卡规模的模型训练能力;同时以低延迟、高吞吐的特性,充分满足了大规模数据处理和高并发场景的需求,加速模型训练过程。此外,DPU的引入赋予了训练集群更高的灵活性和可扩展性,使得用户能够根据实际业务需求灵活选择适配的硬件和软件堆栈,确保持续优化模型的训练性能和效

相关内容

热门资讯

任天堂社长称将用优质游戏吸引玩... 任天堂提高Switch2售价,毫无疑问会让很多潜在玩家考虑一下自己的钱包厚度。对此,任天堂社长古川俊...
《王者荣耀》月收9.4亿,《异... 随着这些年国内游戏厂商声量壮大,中国游戏全球化/区域化新品布局、中国厂商于宣发联动、投资并购等业态频...
嘉庚创新实验室牵头起草我国首个... 央广网福州5月11日消息(记者张子剑)近日,记者从福建省科技厅获悉,嘉庚创新实验室牵头起草的我国首个...
一键连接或成一键失守 国安机关... 国家安全部今天发布安全提示文章。在科技飞速发展的当下,无线耳机、智能手表、无线键盘等蓝牙设备凭借“一...
幽灵般的“穿墙术”:量子隧穿与... 想象一下,你正对着一面坚固的混凝土墙踢足球。在我们的日常经验中,除非你力大无穷把墙踢塌,否则球永远会...