申请/专利权人：昆明理工大学

申请日：2022-04-11

公开（公告）日：2022-06-28

公开（公告）号：CN114676709A

主分类号：G06F40/58

分类号：G06F40/58;G06F40/284;G06F40/268;G06F40/253;G06N3/04;G06N3/08

优先权：

专利状态码：在审-实质审查的生效

法律状态：2022.07.15#实质审查的生效;2022.06.28#公开

摘要：本发明涉及基于零代词补齐的汉越数据增强方法，属于自然语言处理技术领域。本发明包括步骤：构建带零代词标签的汉语、越南语单语篇章数据集；使用Transformer共享编码端融合正文和上下文，再将隐状态输入CRF模型中得到代词缺失位置标记；利用代词缺失位置收集词汇、句法、上下文特征集，再将零代词特征集作为外部知识辅助零代词预测分类任务。最后得到补齐代词的汉语、越南语单语数据。本发明所提汉越数据增强方法，通过补齐省略的代词，补齐句法成分，有效提升汉越平行数据集的质量。此外，借助增强的语料，汉越机器翻译性能得到了一定的改善。

主权项：1.基于零代词补齐的汉越数据增强方法，其特征在于：所述方法的具体步骤如下：Step1、数据收集处理：通过网络爬虫技术爬取收集并构建英汉、英越双语平行数据，利用矩阵对齐方法找出汉语、越南语中缺失的代词，并利用英语平行语料中的对应代词，将汉语、越南语中缺失的代词标注补齐，得到零代词信息标注的汉语、越南语单语数据集；缺失的代词即为零代词；Step2、进行零代词补齐，零代词补齐包括零代词位置预测、零代词特征集生成和零代词预测，把预测出的零代词放入源句子进行零代词补齐从而对汉越数据进行增强：零代词位置预测通过词嵌入和位置嵌入分别对正文和上下文进行特征编码，利用Transformer编码器提取特征，其中正文和上下文共享编码端以减少参数；利用上下文注意力机制对正文表征约束，将Transformer编码器得到隐状态输入CRF模型中进行标注，得到零代词位置信息；零代词特征集生成是利用零代词位置信息生成与零代词相关的词汇、句法、上下文特征集合；零代词预测是重新利用Transformer编码端对正文进行编码，同时与零代词特征集做注意力计算，以提升零代词信息表征，最后将注意力计算后的输入表征通过一个多分类器模块，经过线性变换和归一个处理得到分类结果，即零代词预测结果。

全文数据：

权利要求：

百度查询： 昆明理工大学 基于零代词补齐的汉越数据增强方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD