蚂蚁集团CTO何征宇:绿色计算体系已用于百灵大模型
文艺sao客
2023-11-11 02:22:05

原标题:蚂蚁集团CTO何征宇:绿色计算体系已用于百灵大模型

新京报贝壳财经讯(记者林子 潘亦纯)11月9日,在2023世界互联网大会乌镇峰会“数字化绿色化协同转型发展”分论坛上,蚂蚁集团首席技术官何征宇表示,AI和大模型的爆发推高了智能算力需求,数字化、绿色化协同发展的使命,要求行业亟须构建绿色、高质量的计算基础设施。他呼吁行业加强软硬协同与生态建设,共同提升计算基础设施算力规模、可用性与宽容度。据了解,蚂蚁集团建设了万卡异构集群,通过技术创新搭建了绿色高效的计算架构,AI推理性能相较于业界方案提升约2倍。

“大语言模型与生成式AI让计算机开始具备语言与内容生产能力,将我们带入了通用人工智能时代,承载这种能力的智能计算资源需求也随之井喷,算力基础设施的效率提升和绿色化是必经之路”,何征宇表示。

何征宇介绍了蚂蚁集团创新的绿色计算技术体系及其应用成效。这套体系主要包含多云多芯异构硬件融合管理、在离线混合部署与自动化管理、云原生容器化与分时调度、持续性能监测与AI弹性容量四大核心技术,通过软硬件协同、算法与工程双提效,促进业务创新的同时构建绿色、高质量算力。

凭借这套体系,蚂蚁2022年服务器CPU效率提升至33%,实现了三年算效翻三倍。上周蚂蚁百灵大模型正式通过了备案,蚂蚁集团搭建的绿色计算体系,也正在为百灵大模型提供绿色化的计算能力。

“智能算力是AI发展的底层土壤”,何征宇呼吁行业携手耕耘,“我们要注重高质量绿色软硬件研发、推广和应用,共同构建标准明确的高质量绿色计算平台规格、接口,以及相关的度量评价体系,通过技术开源加速应用供给与推广等,共创共建高质量绿色算力基础设施。 ”

编辑 宋钰婷

校对 杨许丽

相关内容

热门资讯

守护“空中雄鹰”的隐形防线 —... 在航空装备研发的幕后,有一条看不见的重要防线——腐蚀防护。锈蚀侵蚀、环境损耗,时刻威胁着航空飞行器的...
游戏掌机存储卡推荐:三星T7 ... 【中关村在线原创导购】对于掌机的游戏玩家来说,存储空间不够永远是绕不开的痛点。所以游戏掌机存储卡推荐...
成功卫冕!中国队夺得2026年... 新华社北京7月5日电(记者刘洋、魏梦佳)5日,2026年RoboCup机器人世界杯在韩国仁川落下帷幕...
婉拒DeepMind、清华95... 3 月才从哈佛大学和 MIT 博士毕业; 8 月即将入职清华大学,担任助理教授的陈勇超,提前一个月官...
OpenAI限流真相:不是被打... GPT-5.6限流,舆论都在说"政府打压科技"。错了。真相是:OpenAI主动配合的。 它不是受害者...