申请/专利权人:平安科技(深圳)有限公司
申请日:2020-02-26
公开(公告)日:2020-07-24
公开(公告)号:CN111444311A
主分类号:G06F16/33(20190101)
分类号:G06F16/33(20190101);G06F40/289(20200101);G06F40/30(20200101);G06K9/62(20060101);G06N3/04(20060101)
优先权:
专利状态码:在审-实质审查的生效
法律状态:2022.04.22#实质审查的生效;2020.07.24#公开
摘要:本申请揭示了一种语义理解模型训练方法、装置、计算机设备和存储介质,其中方法包括从训练集中获取训练文本对应的总词序列;从总词序列中随机选取预设个数的连续词向量用掩码序列替代,得到输入词序列,并将预设个数的连续词向量作为测试输出词序列;将输入词序列输入至编码器‑注意力‑解码器模型中进行训练,得到预测输出词序列;根据预测输出词序列与测试输出词序列之间的差异,对编码器‑注意力‑解码器模型的模型参数进行调整以减小差异;返回将输入词序列输入至编码器‑注意力‑解码器模型中进行训练,得到预测输出词序列的步骤继续训练,直至满足预设训练停止条件则停止,得到语义理解模型。本申请提高了计算机对自然语言的理解准确度。
主权项:1.一种语义理解模型训练方法,其特征在于,包括:从训练集中,获取训练文本对应的总词序列,其中,所述总词序列内包括依序排列的多个词向量;从所述总词序列中,随机选取预设个数的连续词向量用掩码序列替代,得到输入词序列,并将所述预设个数的连续词向量作为测试输出词序列;将所述输入词序列输入至预设的编码器-注意力-解码器模型中进行训练,得到预测输出词序列,其中,所述预测输出词序列为所述编码器-注意力-解码器模型对所述输入词序列中的所述掩码序列的预测结果;根据所述预测输出词序列与所述测试输出词序列之间的差异,采用预设优化器对所述编码器-注意力-解码器模型的模型参数进行调整,以减小所述差异;返回所述将所述输入词序列输入至编码器-注意力-解码器模型中进行训练,得到预测输出词序列的步骤继续训练,直至满足预设训练停止条件,则停止训练,得到所述语义理解模型。
全文数据:
权利要求:
百度查询: 平安科技(深圳)有限公司 语义理解模型训练方法、装置、计算机设备和存储介质
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。