源头创新突破算力瓶颈,国产大模型进入成长关键期
北京日报
2023-10-27 11:48:27
0

原标题:源头创新突破算力瓶颈,国产大模型进入成长关键期

国产大模型“百模大战”激战正酣之际,美国升级对华芯片出口管制带来新的不确定性。全球供应链震荡之下,国产大模型进入成长关键期。

“要坚持源头创新,提高生成式人工智能的核心竞争力。”业内专家表示,只有制定高端算力芯片、大模型算法等基础性、原创性技术攻关的中长期专项规划,实现更多从“0”到“1”的突破,大模型才有望突破瓶颈。

算力需求将是未来十年挑战

近日,美国升级对华芯片出口管制。根据英伟达10月17日在一份文件中披露的受限芯片详情,包括高性能GPU(图形处理器)芯片A800和H800。这两款是该公司专为中国市场设计的AI(人工智能)芯片。

随着大模型浪潮掀起,英伟达成了AI淘金时代的“卖铲人”,其开发的GPU芯片需求井喷。GPU即图形处理器,被设计用来处理并行计算,更适合同时处理相同类型的大量数据。它最早设计用于处理图像、视频和3D图形渲染,后被引入AI计算,成为大模型训练与推理不可或缺的算力基础设备。

“一颗A800芯片的售价已经高达15万元,半年前,这一价格不过八九万元。”有芯片经销商对记者透露,相关存量芯片价格一路看涨。

“尽管中国开发的AI算法非常强大,但国内硬件的计算能力仍有差距。”科大讯飞创始人、董事长刘庆峰表示,中国企业在训练AI大模型上面临的挑战之一,就是训练主要是在英伟达的硬件上完成的,企业内部只能做出微小的调优和训练。

“我相信对计算能力的需求,将会是未来十年对所有人的挑战。”半导体公司AMD全球副总裁唐晓蕾表示,这不仅涉及对能源、算力的需求,还关系到整个环境改变的需求,“这是一种大势,跟以前不一样。”

行业呼唤自主可控算力底座

科大讯飞日前宣布联合华为推出基于昇腾生态的“飞星一号”大模型算力平台,国内的大模型厂商信心得以提振。此外,当天发布的星火认知大模型V3.0,据称已全面对标ChatGPT(GPT-3.5),在中文能力上实现超越。

“星火3.0可以说是除了华为内部应用之外,当前第一个真正在国产算力平台上训练出来的大模型。”虽然没有透露新一代昇腾芯片性能参数,但刘庆峰提到,“飞星一号”半年内就实现了星火大模型训练和推理效率均翻番。“国产算力平台要有从不好用到好用、再到生态繁荣的过程。如果谁都不往前走一步,那始终无法自立自强。”

自主可控的算力底座也有望解决大模型训练成本过于高昂的问题。近日,毕马威中国与联想集团联合发布《普慧算力开启新计算时代》报告显示,以构建GPT-3为例,OpenAI数据显示,满足GPT-3算力需求至少要上万颗英伟达GPU A100,一次模型训练成本超过1200万美元,这还不包括模型推理成本和后续升级所需的训练成本。

此前,科大讯飞在三季报业绩说明会上表示,公司已于2023年初与华为昇腾启动专项攻关,让国产大模型架构在自主创新的软硬件基础之上,当前华为昇腾910B能力已经基本可对标英伟达A100,后者是当下AI大模型训练市场上应用最广泛的GPU芯片。

做好源头创新突破多而不强

截至今年7月底,我国累计有130个人工智能大模型问世。首批通过《生成式人工智能服务管理暂行办法》备案的11个大模型产品也获批向全社会开放服务。

“对国产大模型而言,亟待解决的问题是多而不强。”北京工业大学经济与管理学院教授何喜军表示,因底层技术突破难,很多公司选择调用较为成熟的大模型,直接应用到原有产品和服务上,技术同质化严重,且缺乏源头创新,高质量落地应用较少。“要建设一批国家级开源平台、代码托管及大模型开发测试平台,确保核心算法自主可控。”

刘庆峰也坦言,国产大模型必须正视与GPT-4的差距。“国产大模型在复杂知识推理、小样本快速学习、超长文本处理、跨模态统一理解上距GPT-4还有差距。”他表示,唯有实事求是,才能实现超越。

着重培育源头创新的步伐正在加快。近日,工信部运行监测协调局局长陶青表示,要夯实人工智能技术底座,通过科技创新重大项目,着力推动大模型算法、框架等基础性原创性的技术突破,提升智能芯片算力水平,释放数据价值,强化“根”技术研发。

各大厂商也在扎牢底层的算法和算力。腾讯集团副总裁蒋杰表示,混元大模型掌握了从模型算法、机器学习框架、人工智能基础设施的全链路自研技术。蚂蚁集团首席技术官何征宇也表示,蚂蚁大模型走纯自研的技术路线,底层算力集群可达万卡规模。

相关内容

热门资讯

宿迁市城市运行管理服务平台对接... 为深入贯彻落实市委、市政府关于智慧城市建设的决策部署,推动人工智能技术在城市管理领域的创新应用,3月...
实测分享正规房卡链接在哪购买,... UEmk9同时新的iPhone将迎来全新的iOS 16系统。iOS16系统升级了交互功能,并且升级更...
一分钟揭秘正规房卡链接在哪购买... D8Ulhw从相机配置来看,这款OPPO Reno10新机采用了后置四摄的设计方案,分别由一英寸大底...
我来告诉你金花房卡充值,正版游... z3pW使得该机的综合硬件配置可以说是达到了一个新高峰。如果上述曝光的这款realme GT3属实的...
带你了解新悠悠金花房卡购买联系... lLu最近,外网就将苹果公司为用户准备的惊喜曝光了,那就是iPhone 14Pro的全新配色,官方叫...
科技通报金花房卡怎么购买,牛牛... PWczwOYx并且,这款realme GT3采用了一块6.79英寸的三星新一代AMOLED屏幕,屏...
重大来袭金花房卡购买联系方式,... tQxP7AY苹果已正式确实了秋季新品发布会的日期,将于9月13日正式举办该活动,可信度还是极高的。...
琶洲AI应用型企业申请出战 夸克AI做图功能所生成的图片。 ◎面对“杭州有‘六小龙’,多个城市诞生一批明星科创企业,广州有什么...
重大发现牛牛房卡卖家联系方式,... zSH从外观屏幕来看,这款OPPO Reno10新机采用了一块6.79英寸的三星AMOLED曲面屏设...
从“秀机能”到“比量产”,人形... 21世纪经济报道记者赵云帆 上海报道 人形机器人行业的竞争日趋白热化。 3月18日,美的集团人形机器...
科技通报正规房卡链接在哪购买,... TS367Hi同时新的iPhone将迎来全新的iOS 16系统。iOS16系统升级了交互功能,并且升...
重大来袭金花房卡哪里有的卖,牛... A6tvKyb2苹果手机如今基本已经成为了高端旗舰机型的代名词了,在全新的iPhone 14系列即将...
重大来袭金花房卡人海大厅科技,... 1q此次iPhone 14系列共有四款机型,iPhone 14、iPhone 14 Max、iPho...
重大发现微信怎么开斗牛房间链接... snMYMiphone14系列整体改变较大,搭载的最新的A16芯片,目前手机主流市场依旧是以火龙为主...
玩家实测全游大厅房卡怎么购买,... eGh第一则是坏消息,有爆料信息称会iPhone14系列会搭载A16处理器,但这款处理器的工艺依旧是...
科技通报牛牛房卡在哪里购买,十... COnxEHHLiPhone 14Pro版的两款将会采用全新的“感叹号”打孔设计,处理器为A16仿生...
玩家实测微信金花房卡怎么弄,牛... WmMojA所以说等待iPhone14发布固然也可以,但更明智的选择是入手正在大降价的iPhone1...
一分钟揭秘天九房卡链接微信王大... mY富有且慷慨!上述曝光的这款摩托罗拉X50mini,零下巴直面屏的全面屏的设计带来了令人惊叹的视觉...
重大发现金花房卡怎么购买,牛牛... EEXP51不仅影像能力再度突破,还都适配了鸿蒙OS3.1,甚至原本单向的北斗卫星消息如今也升级为了...
推荐一款斗牛房卡购买联系电话,... rt6U3i0V同时新的iPhone将迎来全新的iOS 16系统。iOS16系统升级了交互功能,并且...