申请/专利权人:联通在线信息科技有限公司
申请日:2023-09-08
公开(公告)日:2024-02-27
公开(公告)号:CN116894427B
主分类号:G06F40/126
分类号:G06F40/126;G06F40/279;G06F40/30;G06F40/51;G06F40/194;G06F18/214;G06F18/24
优先权:
专利状态码:有效-授权
法律状态:2024.02.27#授权;2023.11.03#实质审查的生效;2023.10.17#公开
摘要:本申请公开了一种中英文信息融合的数据分级方法、服务器及存储介质,属于数据处理领域,包括如下步骤:对待分级元数据进行处理形成标准分词列表;构建四种pair对样本集,并对多语言预训练模型进行领域预训练;通过encoder编码器将文本编码成向量,得到待分级元数据中英文信息的语义编码向量和企业分级标准的中英文描述语义编码向量;利用多种相关性准则计算二者的相关性,然后选取前K类作为候选分级集合;计算候选分级集合中各分级类型的频率,以频率最高的为最终分级结果。该服务器包括存储有上述方法的存储器和执行该方法的处理器;该存储介质存储有执行上述方法的计算机程序。本方法能够对低质量的数据库表进行数据分级。
主权项:1.一种中英文信息融合的数据分级方法,其特征在于,包括如下步骤:元数据预处理,对待分级元数据进行信息拼接、停用词处理以及中英文分词,形成标准分词列表;中英文词嵌入训练,构建中英文对应的四种pair对样本集,并基于四种pair对样本集对多语言预训练模型进行领域预训练;所述pair对样本集包括如下四种形式的样本:中文和中文、中文和英文、英文和中文以及英文和英文,每种形式的样本数据由内部语料构建;对于所述中文和中文形式,内部语料至少利用企业的数据分级标准以及企业数据相关规范,具体样本构成上以标点符号标识一句话;对于所述英文和英文形式,内部语料至少利用英文企业的数据分级标准、英文数据规范,具体样本构成上以标点符号标识一句话;对于所述中文和英文形式,内部语料至少利用企业的中英文数据分级标准、数据库元数据的中英文信息以及企业数据的中英文相关报告,具体样本构成上以标点符号标识中文和其对应的英文翻译;对于所述英文和中文形式,内部语料至少利用企业的中英文数据分级标准、数据库元数据的中英文信息以及企业数据的中英文相关报告,具体样本构成上以标点符号标识英文和其对应的中文翻译;通过所述预训练的encoder编码器将文本编码成向量,得到待分级元数据中英文信息的语义编码向量和企业分级标准的中英文描述语义编码向量;最优TopK相关性匹配,利用至少三种类别的相关性准则计算每种类别下元数据中英文信息的语义编码向量和企业分级标准的中英文描述语义编码向量的相关性,然后在每个类别下,选取得分排名中前K个分级类型作为候选分级集合;计算候选分级集合中各分级类型的频率,以频率排名第一的分级类型确定为最终分级结果。
全文数据:
权利要求:
百度查询: 联通在线信息科技有限公司 一种中英文信息融合的数据分级方法、服务器及存储介质
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。