华为公司申请模型训练专利,减小存储模型占用的内存大小
金融界
2024-03-27 10:57:51

原标题:华为公司申请模型训练专利,减小存储模型占用的内存大小

金融界2024年3月26日消息,据国家知识产权局公告,华为技术有限公司申请一项名为“一种模型训练方法、模型确定方法以及装置“,公开号CN117764147A,申请日期为2023年9月。

专利摘要显示,本申请提供一种人工智能领域的模型训练方法、模型确定方法以及装置,用于对基于两次量化得到的多个不同精度的量化模型进行训练,得到训练后的混合比特超网络,通过存储最高比特量化模型,从而减小存储模型占用的内存大小。该方法包括:获取第一量化模型,第一量化模型为对全精度神经网络模型的参数进行量化得到的;对第一量化模型的参数进行量化,得到第二量化模型,第一量化模型的第一量化比特大于第二量化模型的第二量化比特;通过对第一量化模型和第二量化模型进行训练,得到训练后的混合比特超网络,训练后的混合比特超网络中包括多个子网络,多个子网络包括对第一量化模型和第二量化模型进行训练得到。

来源:金融界

相关内容

热门资讯

华陆工程科技申请精馏系统专利,... 国家知识产权局信息显示,华陆工程科技有限责任公司申请一项名为“精馏系统”的专利,公开号CN12131...
“HBM之父”预测:HBF商业... IT之家 1 月 17 日消息,在部分业内人士中有“HBM 之父”之称的韩国 KAIST 学者 Ki...
商业航天“独角兽”!中科宇航上... 【大河财立方消息】又一商业航天企业IPO取得新进展! 1月17日消息,证监会公开发行辅导公示平台显示...
我国攻克半导体材料世界难题 来源:科技日报 据科技日报,在芯片制造中,不同材料层间的“岛状”连接结构长期阻碍热量传递,成为器件性...
铝龙金属取得金属板剪板装置专利... 国家知识产权局信息显示,广东铝龙金属制品有限公司取得一项名为“一种金属板剪板装置”的专利,授权公告号...