申请/专利权人：杭州师范大学

申请日：2020-11-02

公开（公告）日：2024-04-05

公开（公告）号：CN112287640B

主分类号：G06F40/117

分类号：G06F40/117;G06F40/151;G06N3/0442;G06N3/047;G06N3/082;G06N3/09

优先权：

专利状态码：有效-授权

法律状态：2024.04.05#授权;2021.02.23#实质审查的生效;2021.01.29#公开

摘要：本发明公开了一种基于中文字符结构的序列标注方法。本发明步骤如下：1：利用字符‑笔画映射表预处理语料和数据集；2：在双向LSTM网络中使用语料训练语言模型；3：利用迁移学习方法将语料中的特征转化到数据集中，用向量形式表示数据集中的文本特征；4：通过LSTM‑CRF模型训练序列标注网络；5：利用训练好的序列标注网络对文本进行标注。本模型将抽取了中文字符中的字形特征和笔画表示特征，利用迁移学习的方法将语料中学习到的特征转移至数据集文本中，具有感知上下文的能力，优化了一词多义的能力。通过神经网络能够抽取到更加丰富的上下文笔画信息，也能够解决中文单词的稀疏导致的未收录词的问题。

主权项：1.一种基于中文字符结构的序列标注方法，其特征在于包括如下步骤：骤1：预处理数据，对无监督训练用语料与监督学习数据集文本进行处理，将字符转化为笔画序列，用空格将每个笔画序列隔开；步骤2：将步骤1中处理好的语料放入上下文感知的双向LSTM网络中进行无监督训练，得到语言模型；步骤3：利用迁移学习的方法将步骤2中训练的语言模型对步骤1中处理好的数据集进行特征表示；步骤4：通过步骤1中的监督学习数据集文本与步骤3中的数据集文本的特征表示对LSTM-CRF序列标注网络进行训练，并保存网络权重参数；步骤5：利用步骤4所获得的网络权重参数进行序列标注；步骤1具体实现如下：1-1.读取字符-笔画映射表；1-2.使用字符-笔画映射表处理无监督训练用语料；1-2-1.读取无监督训练用语料，将其拆分为以句子为单元的结构；1-2-2.通过字符-笔画映射表将每个句子中的字符序列转化为以空格为分隔符的笔画序列；1-2-3.将处理完的笔画序列保存到指定文件中；1-3.使用字符-笔画映射表处理监督学习数据集；1-3-1.读取监督学习数据集，将其拆分为以句子为单元的结构；1-3-2.验证监督学习数据集中标签的最小单元，若最小单元是单词，将数据集中所有的词切分为字符，进行重新标注，若最小单元是字符，则不进行处理；1-3-3.将处理好的数据集文本保存到指定文件中；步骤2具体实现如下；2-1.将步骤1中处理后的无监督训练语料以句子为单位依次传入上下文感知的双向LSTM网络中，进行2轮迭代；2-2.将2轮迭代后的LSTM网络参数保存到语言模型权重文件中；步骤3具体实现如下：3-1.加载步骤2中训练完成的语言模型权重文件；3-2.加载步骤1中处理完成的监督学习数据集；3-2-1.分别加载数据集中的文本数据部分与标注标签部分；3-2-2.将加载的文本数据利用语言模型将文本数据转化为包含语义信息的特征向量；3-2-3.将获得的特征向量与对应的标注标签进行关联，获得数据集特征表示；3-2-4.将所有获得数据集特征表示按8:1:1的比例进行切分，分成训练集、验证集和测试集。

全文数据：

权利要求：

百度查询： 杭州师范大学 一种基于中文字符结构的序列标注方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD