vivo 自研蓝心大模型 7B 现已向全行业开源
IT之家
2023-11-09 13:21:39
IT之家 11 月 9 日消息，在近日的 2023 vivo 开发者大会上，vivo 宣布率先开源 70 亿参数级的蓝心大模型 7B 以及对应的微调框架。
按照承诺，vivo 现已在 Hugging Face 上正式开源了 BlueLM-7B，IT之家小伙伴可在 。
BlueLM-7B 开源大模型包括 7B 基础模型和 7B 对话模型，同时 vivo 开源了支持 32K 的长文本基础模型和对话模型。
据介绍，BlueLM 采用高质量语料库进行训练，规模达到了 2.6 万亿 的 token 数，该语料库包含中文、英文以及少量日韩数据。其中 BlueLM-7B-Chat 在 C-Eval 和 CMMLU 上均取得领先结果。
BlueLM-7B-Base-32K 和 BlueLM-7B-Chat-32K 均支持 32K 长文本，在保持基础能力相当情况下，能够支持更长上下文理解。
相关内容
热门资讯
职场不该沦为“楚门的世界”
近日有媒体调查发现，一款面向公司用户、单套价格几百元的监控软件正在被公开售卖，“可以同步监管到员工微...
原创 中...
才上位，又看上中国空间站了？这不，来自美国宇航局（NASA）新局长才上任，居然就看上中国空间站了，对...
苏州科达取得数据采集站专利，减...
国家知识产权局信息显示，苏州科达科技股份有限公司取得一项名为“数据采集站”的专利，授权公告号CN22...
德尔股份：推进固态电池中试线建...
【德尔股份推进固态电池中试线建设，预计2026年上半年建成】12月26日，德尔股份在特定对象调研时透...
麦点彩印取得印刷定位装置专利，...
国家知识产权局信息显示，苏州市麦点彩印有限公司取得一项名为“一种印刷定位装置”的专利，授权公告号CN...