申请/专利权人：合肥工业大学

申请日：2023-12-27

公开（公告）日：2024-03-29

公开（公告）号：CN117473095B

主分类号：G06F16/35

分类号：G06F16/35;G06F40/166;G06F40/216;G06F40/284;G06N3/0464;G06N3/08;G06F16/36

优先权：

专利状态码：有效-授权

法律状态：2024.03.29#授权;2024.02.20#实质审查的生效;2024.01.30#公开

摘要：本发明提供一种基于主题增强词表示的短文本分类方法和系统，涉及文本分类技术领域。本发明基于预先训练的词向量增强模型对所述待分类文本的初始词向量进行主题增强，得到待分类文本的主题增强的词向量；基于预先构建的TextCNN网络对所述主题增强的词向量进行处理，得到文本分类结果；其中，所述预先构建词向量增强模型通过目标领域的训练文本训练改进的Skip‑gram模型得到，所述改进的Skip‑gram模型是在Skip‑gram模型上增加预测中心词主题得分的任务。本发明通过待分类文本所属领域的训练文本对改进的Skip‑gram模型进行训练，得到的词向量增强模型可以获得词语的丰富语义信息，减少短文本信息量少、特征稀疏对分类任务的影响，有效提升短文本分类的分类精度。

主权项：1.一种基于主题增强词表示的短文本分类方法，其特征在于，包括：S1、获取目标领域的待分类文本并进行预处理，对预处理后的待分类文本中的词进行初始向量化，得到待分类文本的初始词向量；S2、基于预先训练的词向量增强模型对所述待分类文本的初始词向量进行主题增强，得到待分类文本的主题增强的词向量；S3、基于预先构建的TextCNN网络对所述主题增强的词向量进行处理，得到文本分类结果；其中，所述预先构建词向量增强模型通过目标领域的训练文本训练改进的Skip-gram模型得到，所述改进的Skip-gram模型是在Skip-gram模型上增加预测中心词主题得分的任务；其中，所述先构建词向量增强模型的构建过程包括：a、获取目标领域的多条短文本，并进行清洗和分词处理，得到目标领域语料库，并对目标领域语料库中的词进行初始化词向量；b、将目标领域语料库中的每个词依次作为中心词，并基于中心词对目标领域语料库进行窗口滑动操作，获取所述中心词的上下文词，将中心词的上下文词的初始词向量作为上下文矩阵真实值；c、基于预设的主题词典获取所述中心词对应的主题得分，作为主题得分真实值；d、将中心词的初始词向量输入至改进的Skip-gram模型的隐藏层，预测中心词主题得分；e、基于所述上下文矩阵真实值、主题得分真实值、中心词主题得分和预设的词向量增强模型损失函数，计算损失值，并进行误差反向传播用于更新输出层和隐藏层之间的权重；设置一个最大的训练轮数B，如果词向量增强模型损失值在b轮次中没有降低，则提前结束训练，得到词向量增强模型，其中bB。

全文数据：

权利要求：

百度查询： 合肥工业大学 基于主题增强词表示的短文本分类方法和系统

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD