vivo 自研蓝心大模型 7B 现已向全行业开源
IT之家
2023-11-09 13:21:39
IT之家 11 月 9 日消息，在近日的 2023 vivo 开发者大会上，vivo 宣布率先开源 70 亿参数级的蓝心大模型 7B 以及对应的微调框架。
按照承诺，vivo 现已在 Hugging Face 上正式开源了 BlueLM-7B，IT之家小伙伴可在 。
BlueLM-7B 开源大模型包括 7B 基础模型和 7B 对话模型，同时 vivo 开源了支持 32K 的长文本基础模型和对话模型。
据介绍，BlueLM 采用高质量语料库进行训练，规模达到了 2.6 万亿 的 token 数，该语料库包含中文、英文以及少量日韩数据。其中 BlueLM-7B-Chat 在 C-Eval 和 CMMLU 上均取得领先结果。
BlueLM-7B-Base-32K 和 BlueLM-7B-Chat-32K 均支持 32K 长文本，在保持基础能力相当情况下，能够支持更长上下文理解。
相关内容
热门资讯
IG主场采访事故，外国观众举牌...
LPL季后赛精彩赛事依旧在火热进行中，关注赛程的都清楚，接下来只有两场大战了，一场是IG和AL的败者...
俄罗斯方块公司投诉后，美国白宫...
IT之家 9 月 9 日消息，美国白宫官网近日上线的网页游戏“Build the Wall”因与《俄...
小钻石打磨产业硬实力（今日快评...
“把钻石‘磨’亮，靠的是技术；把产业建强，需要精准有效的服务、不断完善的产业生态和久久为功推进创新。...
科技保险护航新质生产力
当前，战略性新兴产业与未来产业布局不断优化，科技创新正在新质生产力培育中发挥越来越大的作用。和传统领...
6G智能手机，要来了
《经济参考报》9月8日刊发文章《深读“十五五”专项规划｜新一代通信网2030年全面建成 6G商用适时...