申请/专利权人：阿里巴巴集团控股有限公司

申请日：2020-04-27

公开（公告）日：2024-04-02

公开（公告）号：CN113642302B

主分类号：G06F40/186

分类号：G06F40/186;G06F40/211;G06F40/216;G06F40/126;G06N3/0464

优先权：

专利状态码：有效-授权

法律状态：2024.04.02#授权;2021.11.30#实质审查的生效;2021.11.12#公开

摘要：本发明公开一种文本填充模型的训练方法及装置、文本处理方法及装置，涉及人工智能技术领域，能够解决填充文本时受填充长度限制以及无法实现文本填充多样性的问题。包括：获取待补全的句子模板和句子模板对应的完整句子；使用空位标记对句子模板和或完整句子进行处理，使得两者长度相同；在孪生神经网络架构下，分别对句子模板和完整句子进行编码得到第一句子向量和第二句子向量；利用多层感知器分别对第一句子向量和第二句子向量进行处理得到第一隐变量和第二隐变量；基于第一隐变量和第一句子向量计算所述句子模板空位上生成单词的概率；基于对第一隐变量和第二隐变量之间相对熵的约束以及概率，训练得到用于将句子模板补全的文本填充模型。

主权项：1.一种文本填充模型的训练方法，其特征在于，所述方法包括：获取待补全的句子模板和所述句子模板对应的完整句子；使用预设长度的空位标记对所述句子模板和或所述完整句子进行补全处理，使得所述句子模板与所述完整句子的长度相同；在孪生神经网络架构下，利用先验网络对补全处理后的句子模板进行编码得到第一句子向量，利用后验网络对补全处理后的完整句子进行编码得到第二句子向量；所述先验网络和所述后验网络所使用的神经网络模型相同；在所述先验网络中利用多层感知器对所述第一句子向量进行处理得到第一隐变量，在所述后验网络中利用多层感知器对所述第二句子向量进行处理得到第二隐变量；基于所述第一隐变量和所述第一句子向量计算所述句子模板空位上生成单词的概率；基于对所述第一隐变量和所述第二隐变量之间相对熵的约束以及所述概率，训练得到用于将句子模板补全的文本填充模型。

全文数据：

权利要求：

百度查询： 阿里巴巴集团控股有限公司 文本填充模型的训练方法及装置、文本处理方法及装置

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD