金融界2024年2月27日消息,据国家知识产权局公告,OPPO广东移动通信有限公司申请一项名为“数据去重方法、装置、存储介质以及终端“,公开号CN117609201A,申请日期为2023年11月。
专利摘要显示,本申请实施例公开了一种数据去重方法、装置、存储介质以及终端,所述方法包括:在大语言模型训练场景下,获取初始语料训练数据,确定所述初始语料训练数据对应的目标去重级别,基于所述目标去重级别对所述初始语料训练数据进行数据去重处理得到语料训练数据。采用该方法,本申请实施例通过先确定针对训练数据的去重级别后,再对训练数据进行相应级别的去重处理,以实现对训练数据进行不同级别的去重处理,不仅达到了提升训练数据的数据质量的效果,还增加了训练数据去重的灵活性。
来源:金融界