申请/专利权人：思必驰科技股份有限公司

申请日：2021-04-08

公开（公告）日：2024-03-01

公开（公告）号：CN113095086B

主分类号：G06F40/30

分类号：G06F40/30;G06F40/216;G06F16/35;G06N3/0442;G06N3/08;G06N3/0455;G06N3/084

优先权：

专利状态码：有效-授权

法律状态：2024.03.01#授权;2021.07.27#实质审查的生效;2021.07.09#公开

摘要：本发明实施例提供一种义原预测方法。该方法包括：将汉字树转换的至少包含字形成分的序列输入至预训练模型内的向量层，通过向量层确定的至少包含掩码字形成分单元的掩码后的向量；将掩码后的向量输入至预训练模型内的神经网络；基于预设的训练目标对神经网络进行训练。本发明实施例还提供一种义原预测系统。本发明实施例可以更好地融合中文汉字的内部信息，使用了通过字形增强的中文字符表示来协助义原预测，效果优于现有的不利用外部信息的模型，同时对于低频词的处理也有良好的效果。

主权项：1.一种用于义原预测的预训练模型的训练方法，包括：将包括字形成分的叶子节点和字形结构类型的内部节点的通过深度优先算法确定汉字树转换的包含字形成分和字形结构的序列输入至预训练模型内的向量层，通过所述向量层确定包含掩码字形结构类型单元、掩码字形成分单元的输入单元向量、区分字形结构类型的单元类型向量的掩码后的向量，其中，所述掩码后的向量还包括：字信息、位置向量以及分隔向量；将所述掩码后的向量输入至所述预训练模型内的神经网络；基于预设的训练目标对所述神经网络进行训练，其中，所述神经网络包括：掩码多头自注意力网络，所述预设的训练目标包括预设的掩码语言模型，在所述训练中，各汉字树对应的字信息在所述掩码多头自注意力网络的训练中参数共享，直至所述掩码多头自注意力网络输出的预测结果趋近于掩码前的向量。

全文数据：

权利要求：

百度查询： 思必驰科技股份有限公司 义原预测方法及系统

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD