AI大模型赛道火爆智能算力根本不够用
IDC圈
2023-10-16 19:45:20
0

原标题:AI大模型赛道火爆智能算力根本不够用

“今年以来,我市各市场主体纷纷进入大模型赛道进行产品研发,并积极推进产业化落地,平均每月有10余家市场主体进入大模型赛道,保持较高的增速。”北京市经济和信息化局党组成员、副局长王磊在接受采访时表示。

大模型的快速发展与成熟,将推动生活质量与生产效率的提升,为千行百业的数智化提供支撑,同时,也意味着海量智算的支撑。

以GPT-3模型为例,根据OpenAI报告,训练一次1746亿参数的GPT-3模型需要的算力约为3640PFlops/day。即如果企业要在30天内完成ChatGPT训练,至少需要120PFlops的智算中心。伴随技术发展和业务需要,训练模型的数据规模还将进一步扩大,没有更强大的算力资源,大模型的发展也就无从谈起。那么,如此量级的智能算力需求又如何实现有效供给呢?

加快北京本地智算基础设施建设

北京作为智算需求所在地,推动其智算建设是有效且直接的办法。

这主要是两个层面,一是新建,通过建设新的符合大模型需求的智算中心,来提升算力供给。目前北京也在加快推进人工智能算力中心项目建设,据王磊介绍,海淀区人工智能算力中心和朝阳区北京数字经济算力中心项目正在加紧实施,今年年底将有一批智能算力中心正式建成;石景山、门头沟、大兴、丰台4个商业化智算中心建设工作也在积极推进过程中。

二是改建,指通过使用大规模异构算力资源,包括通用算力(CPU)和智能算力(GPU、FPGA、ASIC 等),主要为人工智能应用(如人工智能深度学习模型开发、模型训练和模型推理等场景)提供所需算力、数据和算法的设施。智能计算中心涵盖设施、硬件、软件,并可提供从底层算力到顶层应用使能的全栈能力。其建设、运维与传统数据中心有着明显的差异,存量数据中心想要提供智能算力,必须在制冷、用电等多个层面上进行优化改造,在技术、资金等方面存在挑战。不过,这将为存量数据中心,尤其是老旧小散数据中心提供了新的产业机遇,通过向智能算力中心转型升级焕发出新的生机,实现业务的发展。

提升河北、内蒙古的智算支持力度与能力

“东数西算”规划了8大枢纽节点,北京身处京津冀算力枢纽节点中,同时,还邻近内蒙古算力枢纽节点,北京地区大模型的庞大智算需求想要得到满足,离不开这两处枢纽节点数据中心集群的算力供给,河北、内蒙古两地的算力供给将成为推动北京大模型发展的重要底座。

目前,河北、内蒙古的算力建设正不断增强,以张家口为例,目前已有19个数据中心投入运营、134万台服务器在线运转,同时,对北京的算力支持力度也将持续提升。王磊表示,北京市经济和信息化局已经与河北、内蒙古签署合作协议,鼓励企业在两地建设专供北京市场的智算中心。

此外,为提升算力支持能力,京津冀算力调度平台建设也在快速推进。王磊表示,北京正加快研究京津冀算力调度平台建设,争取实现区域算力资源动态统筹,提高环京地区算力一体化服务能力,形成全国算力网络调度枢纽节点。

除推动北京算力基础设施建设、提升,提高河北、内蒙古的算力支持,北京也在加快与算力供给息息相关的芯片技术的发展。王磊指出,北京将增强高性能计算芯片生态搭建,积极推动国产化适配,支持研发一批具备自主可控能力的图形GPU、通用GPU等芯片,保障北京市人工智能产业供应链韧性和安全水平。通过多维度提升算力供给能力,北京将更好的满足正快速发展的大模型行业需求,加速大模型行业应用落地。

大模型之外,伴随数字化转型升级加快,其他行业对算力需求也在持续提升,算力又应如何发展进化才能提升供给?

为深入探讨算力产业的发展趋势、政策导向、技术创新和市场应用等方面的问题,由中国IDC产业年度大典组委会主办、中国IDC圈承办的第十八届中国IDC产业年度盛典(IDCC2023)将于2023年12月12-14日在北京国家会议中心隆重举行。本次盛典将以“算力进化”为主题,聚焦行业热点话题,诚邀业内精英人士参与,共同探讨数字经济的发展方向和未来趋势。

| 文章来源:中国IDC圈

• END

IDC行业市场研究

部分一线城市市场增速下滑超9% 数据中心供需、价格将呈何种走向?

部分一线城市价格下跌10% 数据中心正发生哪些变化?

上架率近60%!未来三年中国IDC行业市场环境解析

【专栏】精品在读(点击进入)

数据中心新增CUE指标!工信部等六部门重磅新政

网络传输比快递慢4天 数据中心建设不能只看算力

狂砸7亿购买智算服务器 味精行业也要拼算力了?

相关内容

热门资讯

俄宇航员打破国际空间站单次停留... 感谢IT之家网友 的线索投递! 9 月 21 日消息,俄罗斯国家航天集团公司昨日(9 月 20 日...
当固态电池爆炸时,蘑菇云会出现... 固态电池要是自燃,是不是会有蘑菇云?固态电池充电一次比一次跑得远,去年刚2000公里,今年己到400...
上海证券:“理科竞赛”大模型带... 上海证券研报指出,OpenAI发布“理科竞赛”大模型,后训练ScalingLaws带来算力倍数增长。...
许振超:精益求精做好本职工作,... 新华社青岛9月20日电 题:许振超:精益求精做好本职工作,成为无愧于时代的劳动者 新华社记者王凯 许...
大批寻呼机爆炸,11死4000... 来源:牲产队2024 寻呼机能爆炸伤人,那手机、笔记本电脑甚至汽车...不敢想象!9月17日下午3...
抖音去水印网页怎么去?分享四种... 在抖音上,我们经常能看到一些有趣或者高质量的视频,想要下载下来保存或者二次创作,但往往会被视频上的水...
美的集团申请暖通设备相关专利,... 金融界 2024 年 9 月 20 日消息,天眼查知识产权信息显示,重庆美的通用制冷设备有限公司和美...
原创 库... 库克做梦没想到苹果16新品刚发布的档口,会碰到了黎巴嫩的传呼机爆炸事件。虽然这事表面上看,跟苹果公司...
长春光机所重大突破! 日前 中国科学院长春光机所 依托自主研发的 中药材道地品质高光谱检测技术开发出 一系列中药材品质检测...
原创 再... 在这个科技日新月异的时代,每一次技术的飞跃都如同星辰般璀璨,照亮人类前行的道路。最近,中国北斗卫星导...
日月谭天丨全球台胞共看总台秋晚... “我在国外看总台秋晚,真是美轮美奂”“大手笔大制作,很多新技术之前都没见过”“最喜欢《再回首》,在国...
潍坊奎文:元宇宙赋能智慧医保,... 山东省潍坊市奎文区聚焦及时解决群众医保急难愁盼问题,结合元宇宙技术创新,加大数字医保探索力度,将服务...
9月秋台风频刷“存在感”?专家... 央视网消息:9月,秋台风频刷“存在感”,9月初,今年第11号台风“摩羯”先后登陆菲律宾吕宋岛、我国海...
原创 石... 原文刊载于《中国科学院院刊》2024年第7期“专题:科技创新引领现代化产业体系建设” 窦立荣1,2 ...
厦门鸿基伟业复材科技取得辐条预... 金融界 2024 年 9 月 18 日消息,天眼查知识产权信息显示,厦门鸿基伟业复材科技有限公司取得...
华为三折叠手机今日开卖 知名消费电子分析师郭明錤昨日发文称,其最新供应链调查显示,由于市场需求热度较高,故翻倍上调华为三折叠...
浙江移动:解锁新质生产力的“四... 人民网杭州9月20日电 (方彭依梦)今天上午,以“承智启新质,四新向未来”为主题的浙江移动落实新质生...
原创 西... 在中国有一所神奇的高校,它被誉为“国防七子”之一。 这所学校的学生,大半毕业后都选择投身国防事业,航...
首销打擂台,华为风头盖过苹果! 9月20日,手机江湖很热闹,苹果和华为打起了“擂台”。8:00,苹果新一代旗舰手机iPhone 16...
华为三折叠屏手机秒光 余承东称... 21世纪经济报道记者倪雨晴、实习生翁丽桦 深圳报道 9月20日上午,华为Mate X三折叠屏手机正式...