明年开源全部底层代码!电信发布千亿参数大模型“星辰语义”
中关村在线
2023-11-11 00:25:19

原标题:明年开源全部底层代码!电信发布千亿参数大模型“星辰语义”

2023-11-10 20:53:47 作者:姚立伟

11月10日,2023数字科技生态大会暨展在广州正式开幕,中国电信的多个高管先后发布了多项产品、平台及技术更新。其中包括由中国电信人工智能科技总经理何忠江所发布的“星辰语义”大模型。

这款大模型是中国电信自主研发的新升级版,参数量从百万级别提升至千亿,并且各项能力也都有显著提升。据何忠江介绍,星辰语义大模型拥有超过12亿风格数据训练显存降低50%,推理速度提升4.5倍;中文意象理解生成能力提升30%,语义细粒度生成效果提升25%。

在创意提效方面,星辰语义的大规模机器学习系统生产时间相较以往减少92%,设计成本降低了95%。中国电信表示,“总体而言,这个千亿级别的大模型的效果有了非常显著的提升”,他们计划通过量化蒸馏的技术手段让这个模型能够以低成本商用。

此外,中国电信还计划加入到开源开放的行列中,今年年底将开源百亿级别的大模型,明年4月则会开源千亿级别的大模型。所有这些底层代码都会对外开放。同时还将提供超过1T字节的高质量清洗数据,并根据星辰大模型构建各种工具链,以满足不同用户的需求。

相关内容

热门资讯

守护“空中雄鹰”的隐形防线 —... 在航空装备研发的幕后,有一条看不见的重要防线——腐蚀防护。锈蚀侵蚀、环境损耗,时刻威胁着航空飞行器的...
游戏掌机存储卡推荐:三星T7 ... 【中关村在线原创导购】对于掌机的游戏玩家来说,存储空间不够永远是绕不开的痛点。所以游戏掌机存储卡推荐...
成功卫冕!中国队夺得2026年... 新华社北京7月5日电(记者刘洋、魏梦佳)5日,2026年RoboCup机器人世界杯在韩国仁川落下帷幕...
婉拒DeepMind、清华95... 3 月才从哈佛大学和 MIT 博士毕业; 8 月即将入职清华大学,担任助理教授的陈勇超,提前一个月官...
OpenAI限流真相:不是被打... GPT-5.6限流,舆论都在说"政府打压科技"。错了。真相是:OpenAI主动配合的。 它不是受害者...