申请/专利权人：华东交通大学

申请日：2024-02-04

公开（公告）日：2024-04-12

公开（公告）号：CN117688185B

主分类号：G06F16/35

分类号：G06F16/35;G06F40/30;G06N3/0455;G06N3/0895

优先权：

专利状态码：有效-授权

法律状态：2024.04.12#授权;2024.03.29#实质审查的生效;2024.03.12#公开

摘要：本发明提供一种用户信息增强的长文本细粒度情感分析方法，本发明通过全局信息引导的编码模块把文档级的全局信息引入层次Transformer子模块中，以更好地学习文档的语义表示，用户表示的学习和集成模块通过一个共享网络在相似用户之间共享信息，以学习更好的用户表示，继而集成用户表示到Transformer层的多头注意力机制和多层前向神经网络中，以建模用户情感表达的偏好，通过融合对比学习的总代价计算模块计算模型训练的总代价，本发明提出的方法能够较好地学习长文本的语义表示、有效地利用用户信息、能够准确区分细粒度的情感，分析性能较现有的方法有实质性的提高。

主权项：1.一种用户信息增强的长文本细粒度情感分析方法，其特征在于，应用于情感分析模型，所述情感分析模型包括全局信息引导的编码模块、用户表示的学习和集成模块、分类模块、融合对比学习的总代价计算模块；所述全局信息引导的编码模块包括一个词嵌入层和多个层次Transformer子模块，每个层次Transformer子模块包括一个句子级Transformer层和一个文档级Transformer层；所述方法包括：在全局信息引导的编码模块中，通过词嵌入层得到词和句子的初始语义表示，再在文档级全局信息的引导下，句子级Transformer层通过自注意力机制建模词与词之间、词与句子之间、词与文档之间的交互，优化词、句子和文档的语义表示，文档级Transformer层在句子级Transformer层输出的句子和文档表示的基础上，通过自注意力机制建模句子之间、句子与文档之间的交互，继续优化句子和文档的语义表示，最后基于各个层次Transformer子模块的输出计算得到文档的最终语义表示；在用户表示的学习和集成模块中，通过一个共享网络在相似用户之间共享信息，该共享网络是一个多层前向神经网络，以用户的初始语义表示为输入，输出用户的最终语义表示，进而把用户的最终语义表示集成到全局信息引导的编码模块的所有句子级Transformer层和文档级Transformer层中，以建模用户与词、用户与句子以及用户与文档之间的关系；在分类模块中，根据文档的最终语义表示，计算得到分类结果，分类结果是一个R维的向量，R表示情感类别的类别总数；通过融合对比学习的总代价计算模块计算情感分析模型训练的总代价，引入对比学习策略缩小正训练实例对之间的语义表示距离，同时拉大负训练实例对之间的语义表示距离；所述词嵌入层满足以下条件式： ；其中，为文档中的句子的初始语义向量表示，、分别为句子中第1个词、第个词的初始语义向量表示，为Bert类预训练语言模型，为Bert类预训练语言模型中的句子标识符，表示拼接与句子中的词形成的输入序列，为句子中词的个数；句子级Transformer层满足以下条件式： ；其中，、分别为第个层次Transformer子模块中融合了相应词信息的文档、句子的表示；、分别为第个层次Transformer子模块输出的句子中第1个词、第个词的词表示；表示第个层次Transformer子模块中的句子级Transformer层；、分别为第个层次Transformer子模块输出的文档、句子的表示；、分别为第个层次Transformer子模块输出的句子中第1个词、第个词的词表示；为经过共享网络后得到的用户的最终语义表示；文档级Transformer层满足以下条件式： ; ;其中，为第个层次Transformer子模块输出的文档表示；、分别为第个层次Transformer子模块输出的第1个、第M个句子表示；表示第个层次Transformer子模块中的文档级Transformer层；为经过最大池化操作计算得到的文档的中间表示；为融合了句子中词信息的第1个句子表示，为融合了句子中的词信息的第M个句子表示；表示最大池化操作；为融合了第1个句子中的词信息的文档表示；为融合了第M个句子中的词信息的文档表示。

全文数据：

权利要求：

百度查询： 华东交通大学 一种用户信息增强的长文本细粒度情感分析方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD