申请/专利权人：华中师范大学

申请日：2020-11-05

公开（公告）日：2024-04-02

公开（公告）号：CN112329634B

主分类号：G06V40/20

分类号：G06V40/20;G06V10/764;G06V10/82;G06N3/0464;G06N3/048;G06N3/084;G06Q50/20

优先权：

专利状态码：有效-授权

法律状态：2024.04.02#授权;2021.02.26#实质审查的生效;2021.02.05#公开

摘要：本发明为一种课堂行为识别方法、装置、电子设备及存储介质，包括：获取待识别目标的人体图像；采用第一预设网络模型提取所述人体图像的人体骨架图像；根据预先训练的目标神经网络模型对所述人体骨架图像进行识别，得到所述待识别目标的课堂行为类别。本发明能有效排除学生体态、穿着、背景等无关信息的干扰，突出关键有效信息，降低识别复杂度，具有良好的识别率与泛化能力。

主权项：1.一种课堂行为识别方法，其特征在于，包括以下步骤：S101、获取待识别目标的人体图像；所述步骤S101中，所述待识别的目标为收集的课堂行为为举手、听课、东张西望、阅读、书写、起立以及睡觉；所述步骤S101包括以下步骤：S1011、获取所述待识别目标的原始图像；S1012、对所述原始图像进行裁剪处理，得到待识别目标的人体图像；在所述步骤S1012中，对获取的所述原始图像进行裁剪处理，其方法为，首先，找出原始图像以人体骨架关键点构建的人体上半身区域，将找出的人体上半身区域进行裁剪保存，然后以裁剪保存的图像长边为基准，将图像统一缩放，得到待识别目标的人体图像；S102、采用第一预设网络模型提取所述人体图像的人体骨架图像；所述第一预设网络模型为基于OpenPose开源框架建立的模型；所述步骤S102包括以下步骤：S1021、获取待识别目标的人体图像，人体图像为上述步骤所述的处理后的原始图像；S1022、将所述待识别目标的人体图像输入到第一预设网络模型进行计算，输出人体骨架图像；在所述步骤S1022中，将该待识别目标的人体图像输入到第一预设网络模型中，经第一预设网络模型进行计算，由第一预设网络模型输出层输出每一个待识别目标人体图像的人体关节以及人体关节的位置坐标，将各个关节根据位置坐标进行有序连接，最终获得人体骨架图像；S103、根据预先训练的目标神经网络模型对所述人体骨架图像进行识别，得到所述待识别目标的课堂行为类别；所述步骤S103包括以下步骤：S1031、将获取的人体骨架图像输入到预先训练的目标神经网络模型中进行特征提取，以得到人体骨架图像的特征；S1032、将获取的所述人体骨架图像特征输入到softmax函数中，以得到课堂行为类别的概率分布情况；S1033、根据所述概率分布情况获取对应的课堂行为类别结果，其中，所述概率分布情况用于描述课堂行为属于各种分类的概率；若对于某一测试的人体骨架图像而言，其最后得出的概率分布情况为：P1、P2、P3、P4、P5、P6、P7，其中P1、P2、P3、P4、P5、P6、P7分别对应的课堂行为类别为A1、A2、A3、A4、A5、A6、A7，其中，该P1、P2、P3、P4、P5、P6、P7中P2最大，所述某一测试的人体骨架图像对应的分类为A2类别；在所述步骤S1031之前，所述课堂行为识别方法，还包括以下步骤：S103111、获取样本图像集，所述样本图像集包括多个人体骨架图像样本；S103112、将多个人体骨架图像样本输入预设神经网络模型进行训练，得到所述预先训练的目标神经网络模型；所述S103112步骤中，所述预设神经网络模型为CNN-10卷积神经网络模型，所述CNN-10卷积神经网络模型包括依次连接的第一提取层、第二提取层、第三提取层、第四提取层、第一全连接层、第二全连接层以及输出层；所述第一提取层、第二提取层、第三提取层以及第四提取层分别包括依次连接的第一卷积层、第二卷积层以及最大池化层；其中，第一提取层中的第一卷积层以及第二卷积层用于提取输入的人体骨架图像样本的特征，其中，第一提取层中的最大池化层用于对第二卷积层输出的特征图进行特征选择和信息过滤，保留需要的有用信息；其中，第二提取层中的第一卷积层以及第二卷积层用于提取第一提取层中最大池化层输入的人体骨架特征图的特征，其中，第二提取层中的最大池化层用于对第二卷积层输出的特征图进行特征选择和信息过滤，保留需要的有用信息；其中，第三提取层中的第一卷积层以及第二卷积层用于提取第二提取层中最大池化层输入的人体骨架特征图的特征，其中，第三提取层中的最大池化层用于对第二卷积层输出的特征图进行特征选择和信息过滤，保留需要的有用信息；第四提取层中的第一卷积层以及第二卷积层用于提取第三提取层中最大池化层输入的人体骨架特征图的特征，其中，第四提取层中的最大池化层用于对第二卷积层输出的特征图进行特征选择和信息过滤，保留需要的有用信息；其中，在第一提取层、第二提取层、第三提取层以及第四提取层中，其第一卷积层、第二卷积层中的激活函数选择ReLu激活函数；将上述第四提取层提取的人体骨架特征图输入到第一全连接层中，由第一全连接层对第四提取层输入的人体骨架特征图进行批归一化操作以及Dropout操作，第一全连接层将提取的人体骨架特征图进一步地输入到第二全连接层进行处理，最后，由第二全连接层将提取的人体骨架特征图输入到输出层中；训练所述CNN－10卷积神经网络的方法为：将人体骨架图像样本中的一参与训练的人体骨架图像样本输入该CNN－10卷积神经网络模型中，并经过所述CNN－10卷积神经网络模型进行前向传播，获取该前向传播获得的交叉熵损失函数的损失值，判断该交叉熵损失函数的损失值是否小于预设阈值，若小于设置的预设阈值，则结束训练；若大于设置的预设阈值，则将该交叉熵损失函数的损失值进行反向传播以更新所述CNN－10卷积神经网络模型的权重，并返回将多个人体骨架图像样本中的一参与训练的人体骨架图像样本输入CNN－10卷积神经网络模型进行训练的步骤；其中，训练好的CNN－10卷积神经网络模型即为预先训练的目标神经网络模型；最后，在S103步骤中，根据预先训练的目标神经网络模型对该人体骨架图像进行识别，得到待识别目标的课堂行为类别。

全文数据：

权利要求：

百度查询： 华中师范大学 课堂行为识别方法、装置、电子设备及存储介质

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD