申请/专利权人：南阳理工学院

申请日：2022-12-09

公开（公告）日：2024-04-09

公开（公告）号：CN115796160B

主分类号：G06F40/268

分类号：G06F40/268;G06F16/35

优先权：

专利状态码：有效-授权

法律状态：2024.04.09#授权;2023.03.31#实质审查的生效;2023.03.14#公开

摘要：本申请实施例公开了一种基于词法词缀的论文冗余数据清洗方法、装置及存储介质，属于文本分类预处理技术领域，该方法包括:获取待分类文本；基于自然语言处理中的词法特性对所述待分类文本进行虚词清洗，获取实词部分作为实词文本；对实词文本进行词缀清洗，获取被清洗后的文本，生成无缀文本；基于预设的领域术语表从无缀文本中获取所有领域术语，并将获取到的领域术语构成领域术语集；对无缀文本进行模块识别，基于预设的干扰列表对识别出的模块进行干扰文本去除，将去除干扰文本的文本作为元数据文本；将元数据文本和领域术语集中元素作为纯净文本进行分类。本申请有助于合理的减少文本分类时的网络资源消耗，一定程度上节约了文本分类的成本。

主权项：1.一种基于词法词缀的论文冗余数据清洗方法，其特征在于，包括下述步骤：获取待分类文本；基于自然语言处理中的词法特性对所述待分类文本进行虚词清洗，获取实词部分作为实词文本，其中，所述虚词清洗包括基于所述词法特性中实词和虚词区分规则，将所述待分类文本中的虚词部分用预设的特定符号表示；将所述待分类文本中的虚词部分用预设的特定符号表示包括：基于所述词法特性所预设的虚词表，从所述待分类文本中查找所有的虚词，并同时使用预设标识符号对虚词对应的文本内容进行替换；基于预设的语法前缀和后缀筛选方法对实词文本进行词缀清洗，获取被清洗后的文本，并生成无缀文本，其中，所述词缀清洗包括基于预设的前缀单元字节对实词文本进行清洗，生成无前缀文本，基于预设的后缀单元字节对无前缀文本进行清洗；所述词缀清洗包括基于预设的前缀单元字节对实词文本进行清洗，生成无前缀文本包括：基于预设的前缀单元表，将表中元素作为前缀单元字节从无前缀文本中筛选出带有前缀单元字节的文本，并对所述带有前缀单元字节的文本进行区别表示；所述基于预设的后缀单元字节对无前缀文本进行清洗包括：基于预设的后缀单元表，将表中元素作为后缀单元字节从实词文本中筛选出带有后缀单元字节的文本，并对所述带有后缀单元字节的文本进行区别表示；基于预设的领域术语表从无缀文本中获取所有领域术语，并将获取到的领域术语构成领域术语集，其中，所述领域术语集中可以包含重复的元素；基于预设的模块标记列表和参照规范，对无缀文本进行模块识别，在模块识别完成之后，基于预设的干扰列表对识别出的模块进行干扰文本去除，将去除干扰文本的文本作为元数据文本；所述基于预设的模块标记列表和参照规范，对无缀文本进行模块识别包括：基于预设的模块标记列表中的文字信息，识别出无缀文本中所述文字信息出现的位置，并将不同文字信息间的文本片段作为常规单位模块；基于所述参照规范对无缀文本中文字信息进行获取，获取文本的字号、格式、文本间预设的标点符号和特殊符号信息，筛选出不同字号、格式的文本和预设的标点符号和特殊符号信息间的文本片段，将所述文字片段作为特殊单位模块；将元数据文本和领域术语集中元素作为纯净文本进行分类。

全文数据：

权利要求：

百度查询： 南阳理工学院 基于词法词缀的论文冗余数据清洗方法、装置及存储介质

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD