买专利,只认龙图腾
首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

【发明授权】一种基于联合注意力机制的售电公司评价情感分类方法_昆明电力交易中心有限责任公司_202110224761.5 

申请/专利权人:昆明电力交易中心有限责任公司

申请日:2021-03-01

公开(公告)日:2024-03-29

公开(公告)号:CN112950019B

主分类号:G06F16/35

分类号:G06F16/35;G06Q50/06;G06Q30/0282;G06F40/30;G06N3/0464

优先权:

专利状态码:有效-授权

法律状态:2024.03.29#授权;2021.07.02#实质审查的生效;2021.06.11#公开

摘要:本发明涉及一种基于联合注意力机制的售电公司评价情感分类方法,属于信息技术领域。该方法包括售电公司评价文本数据集的构建与划分、模型训练、模型调优和售电公司评价情感分类四大步骤。该方法获得的评价情感的分类结果一定程度可以反映电力用户对于售电公司的情感倾向,能够在某种意义上刻画售电公司在零售市场的客户满意度和好评度;分类结果可以作为评估售电公司服务质量、信用等级的一个重要指标,能够促进售电公司不断提升服务质量,优化电力套餐结构,调整电力价格,保障电力零售市场的良性竞争和健康平稳运行。

主权项:1.一种基于联合注意力机制的售电公司评价情感分类方法,其特征在于,包括如下步骤:步骤1,售电公司评价文本数据集的构建与划分:构建售电公司评价文本数据集,并将其划分为训练集和测试集;所述的评价文本数据集包括评论数据及其对应的情感类别;步骤2,模型训练:采用训练集,以评论数据作为输入,以评论数据对应的情感类别作为输出,以交叉熵作为损失函数进行训练,得到基于联合注意力机制的情感分类模型;所述的基于联合注意力机制的情感分类模型包括嵌入层、Bi-LSTM模块、CNN-LSTM模块、注意力层;步骤3,模型调优:采用测试集,以交叉熵作为损失函数对模型中的参数进行调整,得到最优基于联合注意力机制的情感分类模型;步骤4,售电公司评价情感分类:获取各售电公司的所有评价数据,使用模型对其评价数据进行情感分类,并统计其评价被分为各个情感类别的数量;步骤2中,嵌入层为模型的第一层,用于将输入文本序列中的每个词语转换为相应的分布式表示;具体为:对于一个包含有n个按序排列词语的句子S={w1,w2,...,wn},通过一个词嵌入矩阵E∈Rd×V以及公式1来查询每个词语对应的分布式向量表示,其中,d为词向量维度,V为词汇表的数量,R为实数空间,wii=1,2,..,n为句子中第i个词语,S为由n个词语构成的句子;而后将句子S中所有词语的词向量进行堆叠得到一个词向量矩阵W∈Rd×n,其中,d为词向量维度,n为句子S中词语数量,R为实数空间,之后将词向量矩阵W分别作为后续Bi-LSTM层和CNN-LSTM层的输入;ei=Eoi1在公式1中,oi是词语wi对应的one-hot编码,ei为词语wi对应的词向量;步骤2中,Bi-LSTM模块每个神经元都包含遗忘门、输入门和输出门;对于当前神经元,遗忘门首先接收上一神经元的输出ht-1和当前输入xt来计算遗忘权重ft,如公式2所示,其中当前输入xt就是词向量矩阵W中的第t行构成的向量,该遗忘权重用于后面与上一神经元的状态Ct-1进行相乘来决定保留哪些历史状态,如公式5所示;在公式2中,Wf为遗忘权重f的参数矩阵,该矩阵的取值在训练前随机设定,而后在训练过程中调整,bf为遗忘权重ft的偏移量,σ为sigmoid激活函数;ft=σWf·[ht-1,xt]+bf2输入门接收上一单元输出ht-1和当前输入xt来计算得到当前哪些信息需要被记忆的权重it,如公式3所示,同时,输入门还通过公式4计算当前神经元的候选状态Ct’;在公式3和4中,Wi和WC分别为记忆权重it和候选状态Ct’的参数矩阵,bi和bC则分别为记忆权重it和候选状态Ct’的偏移量,tanh为tanh激活函数;最终使用公式5的加权和公式计算得出当前神经元的终态Ct;it=σWi·[ht-1,xt]+bi3C′t=tanhWC·[ht-1,xt]+bC4Ct=ft*Ct-1+it*C′t5之后输出门将基于前一神经元输出ht-1和当前输入xt来计算一个输出权重ot,如公式6所示,Wo为输出权重ot的参数矩阵,bo为输出权重ot的偏移量,最后,输出权重ot与经过tanh激活函数处理过的神经元状态Ct相乘,得到当前神经元的输出信息ht,如公式7所示;ot=σWo·[ht-1,xt]+bo6ht=ot*tanhCt7Bi-LSTM模块分别使用两个反向的LSTM对输入序列进行建模,定义输入词语wtt=1,2,...,n对应的正向和反向LSTM输出状态分别为和将其拼接得到当前输入的状态表示对于包含n个词语的句子,经过双向LSTM处理后得到的特征表示为H={h1,h2,...,hn}。

全文数据:

权利要求:

百度查询: 昆明电力交易中心有限责任公司 一种基于联合注意力机制的售电公司评价情感分类方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。