国家知识产权局信息显示,上海东方算芯科技有限公司申请一项名为“芯片中的注意力机制的运算方法、芯片、电子设备、存储介质及程序产品”的专利,公开号CN121277563A,申请日期为2025年12月。
专利摘要显示,本申请提供了一种芯片中的注意力机制的运算方法、芯片、电子设备、存储介质及程序产品;在注意力模型训练的前向阶段,基于第一指令流水,在计算引擎的各个线程中对查询矩阵、键矩阵和值矩阵进行前向计算得到前向输出矩阵,算法实现中,矩阵乘法由第一、三线程调用矩阵乘法单元执行,向量计算由第二线程调用向量计算单元处理;在反向阶段,基于第二指令流水在各个线程中对查询矩阵、键矩阵、值矩阵和输出梯度矩阵进行反向计算得到目标梯度矩阵;在第一线程和第三线程中调用矩阵乘法单元执行矩阵乘法,在第二线程中调用向量计算单元执行向量计算,在空闲的第一线程或第三线程中调用数据搬运单元获取各个矩阵。通过本申请能够提高芯片运算性能。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
来源:市场资讯