​百度文心大模型将发新版本,传推理成本增加10倍
观察者网
2023-10-13 01:02:41

原标题:​百度文心大模型将发新版本,传推理成本增加10倍

近日,据消息人士透露,百度正在加紧训练文心大模型4.0,这将是文心大模型3.5版本后又一个重磅版本,或将在10月17日举行的百度世界大会上发布。

据爆料,文心大模型4.0的推理成本相比文心大模型3.5增加10倍。

有业内专家表示,大模型的推理成本跟三个因素相关:模型的网络结构和参数规模、推理部署方式、芯片和集群架构。

从目前的爆料信息来看,文心大模型4.0的参数规模预计可能突破万亿级别。换句话说,文心4.0的神经网络结构将变得更复杂、参数规模更大,这必然带来更大的计算量,这也意味着更高的推理成本。

随着大语言模型的不断升级迭代,参数量突破万亿、模型能力越来越强、用户使用量激增,推理成本都是大模型厂商需要持续优化的地方。

今年3月,百度正式推出了大语言模型文心一言。随后8月,百度率先将文心一言向全社会全面开放,此后文心一言冲上相关应用商店应用排行榜,并成为首个登顶苹果App Store免费应用榜首的中文AI原生应用。

相关内容

热门资讯

电竞圈第一帅哥退伍!长相大变样... 对于LPL老观众来说,S7绝对是让人十分难忘的一个赛季,尤其是WE的粉丝更是至今都时不时回忆那年的比...
原创 全... 在第六个中国人民警察节即将到来之际,一台通体银白、印有“智能安防”标识的无人巡逻机器人“蚌铁智巡00...
《天下贰:经典版》公测首日人数... 1月9日《天下贰:经典版》正式公测,公测首日首批服务器直接爆满,很多玩家开服后第一时间就上线做日常肝...
LOL世界冠军沉迷DOTA2在... 前不久,英雄联盟S9冠军中单Doinb开始组五黑尝试DOTA2,并且高强度搜相关教学视频,并同步在游...
信达证券:首次覆盖百奥赛图给予... 信达证券股份有限公司唐爱金,贺鑫近期对百奥赛图进行研究并发布了研究报告《公司深度报告:高速成长的生物...