华为新专利：AI模型量化技术，助力内存占用大幅缩减
创始人
2025-02-07 14:42:19
0次
华为技术有限公司在人工智能领域再添新专利，一项名为“人工智能模型的量化方法、处理系统和量化单元”的专利近日正式公布。该专利揭示了华为在优化AI模型运行效率方面的又一重要进展。
据专利摘要介绍，该量化方法的核心在于量化单元能够智能地根据运行AI模型的计算设备的不同计算单元处理粒度，将量化矩阵分割成多个适配的分块量化矩阵。这一过程不仅精细且高效，能够大幅度减少AI模型对内存的占用。无论是权重矩阵还是激活矩阵，量化单元都能基于计算设备的实际处理能力进行实时量化，无需依赖传统的张量级别离群值统计。
进一步地，量化单元会对这些分块量化矩阵进行量化处理，并将处理后的结果存储在存储器中。这一创新不仅优化了AI模型的内存使用，还提升了整体运行效率，为AI技术在更多场景下的应用提供了有力支持。
华为在数据处理方法及相关设备方面也取得了新突破。国家知识产权局信息显示，华为于2024年9月申请了一项名为“一种数据处理方法及相关设备”的专利，并于今年1月底公布相关信息。该专利旨在降低模型训练过程中的存储空间开销，同时提升模型训练性能。
具体而言，该专利提出了一种创新的数据处理方法。在这一过程中，第一装置利用神经网络模型对第一数据进行前向计算，得到第二数据。随后，该装置对第二数据进行量化处理，得到位数更少的第三数据。这一量化步骤有效降低了数据的存储需求。最终，第一装置保存这些量化后的第三数据，这些数据将在后续的第一模型反向计算中发挥关键作用。
华为在人工智能领域的持续创新，不仅体现了其在技术研发上的深厚实力，也为推动AI技术的广泛应用和发展做出了重要贡献。随着这些新专利的实施和应用，我们有理由相信，华为将在人工智能领域取得更多突破性的成果。
相关内容
热门资讯
游戏介绍！正版房卡批发大厅，房...
aXqP两颗镜头的实际拍照素质也很强悍，不输安卓3000-4000档机型，打个有来有回还是可以的，同...
游戏！房卡充值平台，牛牛房卡批...
S是一个为智能手机发展做出了杰出贡献的手机厂商，再加上丰富的技术积累以及强大的研发能力，因此摩托罗拉...
酷特智能获得发明专利授权：“一...
证券之星消息，根据天眼查APP数据显示酷特智能（300840）新获得一项发明专利授权，专利名为“一种...
游戏指南！微信怎么开斗牛房间链...
oPX0hRiPhone 14 Pro最新渲染图，由平面设计师Ian Zelbo制作，基于早些时候业...
游戏推荐斗牛游戏在哪里找，牛牛...
KQX请输入标签内容...1、打开大厅APP，进入首页后点击商城按钮更多详情添加微：96960539...
让无人机在室内“长眼”，北邮室...
无人机在大型室内体育场馆中如何“长眼”丝滑穿行？观众进入赛场后如何快速找到自己的位置？遇到突发情况赛...
游戏测评！微信金花房卡充值，房...
KQm在核心硬件方面，据悉这款摩托罗拉X50mini采用了高通骁龙7+ Gen2移动平台，高通骁龙7...
游戏！正规房卡出售平台，正规房...
A8RMkfi而且根据最新消息显示苹果今年推出的iPhone15系列手机中其距离传感器将会位于灵动岛...
美媒：马斯克团队用AI技术调查...
来源：上观新闻 美国《华盛顿邮报》6日援引两名知情人士的消息报道，埃隆·马斯克领导的政府效率部团队已...
争光ZGA307树脂可以处理什...
在离子交换树脂领域，争光ZGA307树脂以其卓越的性能和广泛的应用领域而备受瞩目。作为争光品牌的明星...
游戏！微信金花房卡在哪里购买，...
3OugfIW此次苹果秋季新品发布会也确定了，距离iphone14系列发布还有一段时间，如今ipho...
游戏新道游大厅房卡怎么卖，斗牛...
BKdIiPhone 15 Pro系列相比于之前的机型在内存上增加到了6 GB，因此比之前多了100...
游戏！房卡怎么购买，正规房卡出...
UR不过新机还未确定发布时间，现在想要换手机的用户，可以看看这款OPPO Reno9手机，是一款才发...
“非常棒”，又有两家科技巨头点...
据日本《日经亚洲新闻》2月5日报道，谷歌首席执行官桑达尔·皮查伊和美国超威半导体公司（AMD）首席执...
网易有道全线AI应用接入Dee...
图片由AI生成 2月6日，钛媒体APP独家获悉，网易有道旗下AI教育应用正全面接入DeepSeek-...
小米最新回应：“抱歉要扫大家的...
2月6日晚间，据媒体报道，@小米眼镜 官方微博已经上线，认证主体为小米通讯技术有限公司。 目前，该...
游戏斗牛房卡购买联系方式，微信...
1lh53p83苹果手机虽然备受消费者的欢迎，同时也搭载的是自研的iOS系统，但是在很多方面，苹果也...
游戏指南！怎么购买斗牛房卡，正...
9TApbxxR尽管目前距离 iPhone 15 系列的亮相还有很长一段时间，但按照以往的惯例，该系...
格力电器获得发明专利授权：“一...
证券之星消息，根据天眼查APP数据显示格力电器（000651）新获得一项发明专利授权，专利名为“一种...
VDURA 展示面向能源行业的...
VDURA 作为 HPC数据基础设施和管理解决方案的专业公司，将在本月晚些时候举行的第 18 届能源...