金融界2023年12月12日消息,据国家知识产权局公告,华为技术有限公司申请一项名为“用于分布式神经网络的装置和方法“,公开号CN117223006A,申请日期为2021年4月。
专利摘要显示,本发明涉及用于在通信系统中执行分布式机器学习和推理的第一设备和至少两个第二设备。每个设备都包括神经网络(neural network,NN)。NN在训练阶段中分布式训练,也可以在推理阶段中激活,使得可以减少通信系统中的数据交换量。在训练阶段和推理阶段中,至少两个第二设备将其NN的输出层的激活向量提供给第一设备。第一设备合并这些激活向量以生成其NN的输入。在反向传播的过程中,第一设备可以分割其NN的输入层的误差向量或将其NN的输入层的误差向量广播给至少两个第二设备。这样,通信系统可以处理任意数量的数据源。
来源:金融界