买专利,只认龙图腾
首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

【发明公布】基于多头注意力机制与多模型融合的短文本情感分析方法_南京信息职业技术学院;江苏易宁正弘电子商务有限公司_202311859328.4 

申请/专利权人:南京信息职业技术学院;江苏易宁正弘电子商务有限公司

申请日:2023-12-30

公开(公告)日:2024-03-26

公开(公告)号:CN117764084A

主分类号:G06F40/30

分类号:G06F40/30;G06N3/0455;G06N3/0442;G06N3/0464;G06N3/08;G06F40/216

优先权:

专利状态码:在审-实质审查的生效

法律状态:2024.04.12#实质审查的生效;2024.03.26#公开

摘要:一种基于多头注意力机制与多模型融合的短文本情感分析方法,首先利用BERT获得输入文本的上下文向量表示,然后用TextCNN分别提取文本全局特征和局部特征,通过特征融合方法构建文本特征向量,通过LSTM网络将这些文本向量提取出文本特征,最后将分类器应用到特征提取模块获得的文本特征进行端到端的训练,综合分类器和特征信息得到最终的预测结果;本发明针对短文本情感分析中的情感语义表达不足以及上下文语义挖掘不充分的问题,通过词嵌入和多头注意力机制对文本特征进行提取,然后预测估计出该文本的情感极性,并搭建预处理、迁移训练以及特征提取识别的情感分析预测仿真应用系统来进行测试验证,大大提高了方法的精度和鲁棒性。

主权项:1.一种基于多头注意力机制与多模型融合的短文本情感分析方法,其特征在于:首先,利用BERT获得输入文本的上下文向量表示,然后用TextCNN分别提取文本全局特征和局部特征,通过特征融合方法构建文本特征向量,同时,通过LSTM网络将这些文本向量提取出文本特征,最后,将分类器应用到特征提取模块获得的文本特征进行端到端的训练,综合分类器和特征信息得到最终的预测结果;具体执行过程为:输入的文档经过BERT提取得到文本向量,再输入到TextCNN网络提取文本特征作为注意力机制中的Query值,同时文本向量输入到长短期记忆网络LSTM中经过卷积、池化操作进行特征提取,输入到注意力机制中作为Key和Value值,与TextCNN提取的文本特征进行注意力机制计算,最后输入到线性层得到文本的预测标签向量,即为输出。

全文数据:

权利要求:

百度查询: 南京信息职业技术学院;江苏易宁正弘电子商务有限公司 基于多头注意力机制与多模型融合的短文本情感分析方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。