金融大模型再升级!百川智能Baichuan4-Finance来袭
创始人
2024-12-24 08:20:56

12月23日,百川智能发布全链路领域增强大模型Baichuan4-Finance。

如何让模型在提升专业能力的同时不损失通用能力,是当下大模型落地具体场景最大的阻碍。为解决这一问题,百川智能打造了一套全链路领域增强方案,该方案覆盖了高质量数据集构建、模型预训练、微调、强化学习等从模型研发到场景应用的全流程。

在模型训练阶段,通过领域自约束训练技术,百川智能实现了模型专项能力和通用能力同步提升的效果,极大提升了模型多元场景的可用性。而Baichuan4-Finance正是这一方案的最新成果,全链路金融领域增强让其既掌握了扎实的金融理论基础,又具备了丰富的多场景实践应用能力。

具体而言,Baichuan4-Finance的高质量金融数据集既包含金融专业教材与学术著作、顶级金融期刊论文、监管机构政策文件、金融法律法规等核心专业金融知识数据,也覆盖了金融专业问答集、企业财报与年度报告、金融类研究分析报告等实践应用类数据,为提升模型金融能力提供了良好的底层支撑。

在此基础上,Baichuan4-Finance还在领域自约束训练过程中引入了更高精的通用数据,与高质量金融数据一起进行混合训练,最终实现了模型通用能力不下降,金融能力稳定增长的效果。

此外,百川智能在后训练环节也做了大量增强工作,如:通过合成数据、指令数据对模型进行有监督的微调;在强化学习策略中,针对数学计算等金融领域特别关注的场景进行样本增强等,进一步提升了模型性能。

值得一提的是,为了更好地助力金融企业将大模型应用到各种真实场景,百川智能还在官网发布了Baichuan4-Finance全链路领域增强的技术报告,详细阐述了包括“领域自约束训练”在内的各项技术细节。

相关内容

热门资讯

联想旗下摩托罗拉Razr 70... IT之家 2 月 3 日消息,外媒 xpertpick 挖掘数据获悉,联想旗下摩托罗拉 Razr 7...
金其利取得基于RK3588底板... 国家知识产权局信息显示,广州市金其利信息科技有限公司取得一项名为“一种基于RK3588底板的功能电路...
算力设施绿色转型,申菱环境调控... 在国家“双碳”战略持续推进的背景下,环境调控系统正日益成为数字经济和实体经济中的基础性支柱。作为数字...
意瑞达取得拌料器专利,有利于提... 国家知识产权局信息显示,佛山意瑞达建筑机械有限公司取得一项名为“一种拌料器”的专利,授权公告号CN2...
盘点2025年那些“破圈”的科... (来源:经济日报) 转自:经济日报 2025年,中国科技以前所未有的速度向前迈进。它们不只停留在实验...