申请/专利权人：湘潭大学

申请日：2020-09-16

公开（公告）日：2024-03-05

公开（公告）号：CN112308370B

主分类号：G06Q10/0639

分类号：G06Q10/0639;G06Q50/20;G06F40/279;G06F40/289;G06F40/30;G06N3/0455

优先权：

专利状态码：有效-授权

法律状态：2024.03.05#授权;2021.02.23#实质审查的生效;2021.02.02#公开

摘要：本发明公开了一种基于Transformer的面向思政课程的主观题自动评分方法，涉及自然语言处理及深度学习，属于计算机应用技术领域，解决思政课程主观题自动评分技术准确度低的问题，具体方案为：包括以下步骤：S1：输入学生答案初始文本，通过基于BERT和序列标注的语义完整性分析模型对初始文本进行切分，将所述初始文本切分为多个语义完整分句；S2：通过BERT将每个学生答案分句和每个标准答案得分点表示为嵌入矩阵；S3：输入一个学生答案分句和一个标准答案得分点的嵌入矩阵表示，通过基于Transformer的短文本相似度计算模型计算两个文本之间的相似度；S4：重复S3直至计算完每个学生答案分句和每个标准答案得分点之间的相似度；S5：根据每个得分点的分数和S4计算的相似度得到每个学生答案分句对于每个得分点的得分矩阵，选取行列都不重叠且总分最高的得分序列得到最终评分。

主权项：1.一种基于Transformer的面向思政课程的主观题自动评分方法，其特征在于，包括以下步骤：S1：输入学生答案初始文本，通过基于BERT和序列标注的语义完整性分析模型对初始文本进行切分，将所述初始文本切分为多个语义完整分句；S2：通过BERT将每个学生答案分句和每个标准答案得分点表示为嵌入矩阵；S3：输入一个学生答案分句和一个标准答案得分点的嵌入矩阵表示，通过基于Transformer的短文本相似度计算模型计算两个文本之间的相似度；S4：重复S3直至计算完每个学生答案分句和每个标准答案得分点之间的相似度；S5：根据每个得分点的分数和S4计算的相似度得到每个学生答案分句对于每个得分点的得分矩阵，选取行列都不重叠且总分最高的得分序列得到最终评分；其中，上述S3第一次的输入为一个学生答案分句和一个标准答案得分点的嵌入矩阵表示，进入堆叠6个Transformer编码器的编码组件，每个编码器有三个子层，分别是原有的多头自注意力层和前馈神经网络层以及新增的交互注意力层，前两个子层获得两个文本各自的上下文信息，新增的第三层使两个文本获得二者的交互信息，除了第一次输入，后面每个编码器的输入都是上一个编码器的输出，堆叠6个编码器使得两个文本在不同的语义程度上进行交互，获得更为丰富的交互信息；矩阵Qn×768表示学生答案分句，矩阵Am×768表示标准答案得分点，交互注意力层先计算交互注意力权重矩阵Mn×m＝QAT，按行方向对M进行Softmax操作，表示A中每个字符对Q中每个字符的注意力权重，因此交互后Q＝softrowmaxMA，按列方向对M进行Softmax操作，表示Q中每个字符对A中每个字符的注意力权重，因此交互后A＝[softcolmaxM]TQ，这样学生答案分句Q和标准答案得分点A就进行了信息交互，经过整个编码组件编码后，获得丰富的上下文信息和交互信息，将Q和A输入到池化层后分别得到两个文本序列的向量表示v1和v2，v1和v2进入预测层，两个文本序列的相似度计算公式其中表示两个文本序列之间的相似度预测值，v1×v2强调两个文本序列之间相同的地方，|v1-v2|强调两个文本序列之间不同的地方，F表示将这4个向量拼接成一个向量输入到全连接神经网络后再经过Sigmoid函数处理输出相似度预测值。

全文数据：

权利要求：

百度查询： 湘潭大学 一种基于Transformer的面向思政课程的主观题自动评分方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD