明年开源全部底层代码!电信发布千亿参数大模型“星辰语义”
中关村在线
2023-11-11 00:25:19

原标题:明年开源全部底层代码!电信发布千亿参数大模型“星辰语义”

2023-11-10 20:53:47 作者:姚立伟

11月10日,2023数字科技生态大会暨展在广州正式开幕,中国电信的多个高管先后发布了多项产品、平台及技术更新。其中包括由中国电信人工智能科技总经理何忠江所发布的“星辰语义”大模型。

这款大模型是中国电信自主研发的新升级版,参数量从百万级别提升至千亿,并且各项能力也都有显著提升。据何忠江介绍,星辰语义大模型拥有超过12亿风格数据训练显存降低50%,推理速度提升4.5倍;中文意象理解生成能力提升30%,语义细粒度生成效果提升25%。

在创意提效方面,星辰语义的大规模机器学习系统生产时间相较以往减少92%,设计成本降低了95%。中国电信表示,“总体而言,这个千亿级别的大模型的效果有了非常显著的提升”,他们计划通过量化蒸馏的技术手段让这个模型能够以低成本商用。

此外,中国电信还计划加入到开源开放的行列中,今年年底将开源百亿级别的大模型,明年4月则会开源千亿级别的大模型。所有这些底层代码都会对外开放。同时还将提供超过1T字节的高质量清洗数据,并根据星辰大模型构建各种工具链,以满足不同用户的需求。

相关内容

热门资讯

小米申请目标转速确定方法专利,... 国家知识产权局信息显示,小米科技(武汉)有限公司、小米智能家电(武汉)有限公司、北京小米移动软件有限...
原创 小... 要说今年手机行业最让人意外的手机,并不是iPhone17或者华为Mate80,而是才发布的小米17 ...
广西第1000台工业人形机器人... 中新网柳州12月26日电(林馨)广西第1000台工业人形机器人Walker S2 26日在柳州市下线...
淮南凤台:刷脸就医“秒结算” ... “以前看病忘带卡急得直冒汗,现在站在机器前‘刷个脸’,费用一秒就结算好了!”近日,淮南市凤台县关店乡...
脑机接口、养老科技……闵行招商... “闵行区对脑机接口企业梯度培育的支持举措有哪些?”“上海重点发展的高端康复治疗产品相关研发方向包括?...