vivo 自研蓝心大模型 7B 现已向全行业开源
IT之家
2023-11-09 13:21:39

原标题:vivo 自研蓝心大模型 7B 现已向全行业开源

IT之家 11 月 9 日消息,在近日的 2023 vivo 开发者大会上,vivo 宣布率先开源 70 亿参数级的蓝心大模型 7B 以及对应的微调框架。

按照承诺,vivo 现已在 Hugging Face 上正式开源了 BlueLM-7B,IT之家小伙伴可在 。

BlueLM-7B 开源大模型包括 7B 基础模型和 7B 对话模型,同时 vivo 开源了支持 32K 的长文本基础模型和对话模型。

据介绍,BlueLM 采用高质量语料库进行训练,规模达到了 2.6 万亿 的 token 数,该语料库包含中文、英文以及少量日韩数据。其中 BlueLM-7B-Chat 在 C-Eval 和 CMMLU 上均取得领先结果。

BlueLM-7B-Base-32K 和 BlueLM-7B-Chat-32K 均支持 32K 长文本,在保持基础能力相当情况下,能够支持更长上下文理解。

相关内容

热门资讯

守护“空中雄鹰”的隐形防线 —... 在航空装备研发的幕后,有一条看不见的重要防线——腐蚀防护。锈蚀侵蚀、环境损耗,时刻威胁着航空飞行器的...
游戏掌机存储卡推荐:三星T7 ... 【中关村在线原创导购】对于掌机的游戏玩家来说,存储空间不够永远是绕不开的痛点。所以游戏掌机存储卡推荐...
成功卫冕!中国队夺得2026年... 新华社北京7月5日电(记者刘洋、魏梦佳)5日,2026年RoboCup机器人世界杯在韩国仁川落下帷幕...
婉拒DeepMind、清华95... 3 月才从哈佛大学和 MIT 博士毕业; 8 月即将入职清华大学,担任助理教授的陈勇超,提前一个月官...
OpenAI限流真相:不是被打... GPT-5.6限流,舆论都在说"政府打压科技"。错了。真相是:OpenAI主动配合的。 它不是受害者...