vivo 自研蓝心大模型 7B 现已向全行业开源
IT之家
2023-11-09 13:21:39

原标题:vivo 自研蓝心大模型 7B 现已向全行业开源

IT之家 11 月 9 日消息,在近日的 2023 vivo 开发者大会上,vivo 宣布率先开源 70 亿参数级的蓝心大模型 7B 以及对应的微调框架。

按照承诺,vivo 现已在 Hugging Face 上正式开源了 BlueLM-7B,IT之家小伙伴可在 。

BlueLM-7B 开源大模型包括 7B 基础模型和 7B 对话模型,同时 vivo 开源了支持 32K 的长文本基础模型和对话模型。

据介绍,BlueLM 采用高质量语料库进行训练,规模达到了 2.6 万亿 的 token 数,该语料库包含中文、英文以及少量日韩数据。其中 BlueLM-7B-Chat 在 C-Eval 和 CMMLU 上均取得领先结果。

BlueLM-7B-Base-32K 和 BlueLM-7B-Chat-32K 均支持 32K 长文本,在保持基础能力相当情况下,能够支持更长上下文理解。

相关内容

热门资讯

原创 大... 叶子猪有玩家在问:大话手游新资料片,龙族珍藏金鳞vs无价应龙,哪一个配饰套装更好用一些?在2026年...
原创 《... 《弹壳特攻队》手游中,异世界宠物已成为战力质变的关键。本攻略深度复盘宠物强度排行,首推加菲猫与松鼠作...
《金铲铲之战》「星神」赛季上线... 近日,大平台开始推送《金铲铲之战》「星神」赛季即将上线的消息。本次更新以"科幻+奇幻"融合的宇宙美学...
永恒之塔2手游ios安卓获取教... 永恒之塔2手游作为经典IP续作,以虚幻五引擎打造,将亚特雷亚大陆的魔幻与科技交织之美展现得淋漓尽致,...
原创 L... LOL历史AD选手排行,Uzi因为没有S赛冠军,排到11名引起粉丝不满,最近这份“ADC历史地位纯荣...