申请/专利权人：电子科技大学

申请日：2023-09-28

公开（公告）日：2023-12-15

公开（公告）号：CN117237765A

主分类号：G06V10/776

分类号：G06V10/776;G06V10/74;G06V10/764;G06V10/82

优先权：

专利状态码：在审-实质审查的生效

法律状态：2024.01.02#实质审查的生效;2023.12.15#公开

摘要：该发明公开了一种基于类激活区域偏移度量的连续学习性能评估方法，属于深度神经网络模型的类增量连续学习领域。本发明在进行图像处理任务时，深度神经网络模型需要对图像中待处理的物体进行提取和重点关注，以完成后续的下游任务；在连续学习场景下，模型在后续任务的学习中灾难性遗忘可能会导致其对之前任务中的目标失去提取和关注能力。本方案提出了使用Grad‑cam类别激活映射谱在不同任务阶段的变化情况来衡量连续学习算法遏制灾难性遗忘的有效性，主要给出了量化的关注区域稳定度评价指标，并结合分类准确度形成了偏离度和相关度指标，最后综合DV和RL作为DR评价指标来衡量连续学习算法的整体表现。

主权项：1.一种基于类激活区域偏移度量的连续学习性能评估方法，该方法包括：步骤1：对于连续学习的每个图像识别任务t，当模型M完成了对于当前图像识别任务的训练集{xt,yt}的学习后，对于当前图像识别任务的测试集的第i张图像在其真实类别上的激活图保存并设定为该图像的标准类激活映射谱，并令zt为所有的集合表示；同时计算该图像识别任务完成后对于所学习过的所有图像识别任务类别的测试集的最终分类准确度FAt进行计算，计算公式为： 其中，Nm表示第m个任务的测试集样本数量；步骤2：计算旧图像识别任务测试数据在完成当前图像识别任务t学习后的模型上的类激活映射谱zm,t，以用于计算关注区域稳定度的情况；对于当前图像识别任务t的测试数据集，有zt,t＝zt；对于t＝0时，则不存在旧图像识别任务测试数据类激活映射谱zm,t；步骤3：将旧图像识别任务测试数据类激活映射谱zm,t和首次训练产生的标准类激活映射谱标准图zm进行概率归一化预处理得到归一化后的结果z′m,t和z′m，以便进行关注区域相似性衡量；为了放大其关注区域差异的表示程度，使用公示2所示的归一化指数函数进行概率分布归一化；对于一张类激活映射谱z，处理过程如下公式所示： 其中，z′表示完成概率归一化的类激活映射谱，p,q表示类激活映射谱中横坐标和纵坐标分别为p,q上的点，zp,q表示类激活映射谱z中横坐标和纵坐标分别为p,q上的点；其中ρ为非线性映射放大参数，这里取ρ＝0.1将数值分布范围为0-1的类激活映射谱放大到0-10以充分体现不同算法的关注区域的变化差异；步骤4：将概率归一化后的z′m,t和z′m进行SIM矩阵相似性度量，矩阵相似性即比较两个矩阵对应位置元素取较小值然后求和，如果两个分布完全一致，则最后得分为1，如果两个分布完全没有交集，则最后得分为0，其计算公式为：SIMz′m,t,z′m＝∑p∑qMINz′m,tp,q,z′mp,q3z′m,tp,q表示z′m,t中横坐标和纵坐标分别为p,q上的点，z′mp,q表示z′m中横坐标和纵坐标分别为p,q上的点；在每个任务阶段t都将之前旧图像识别任务的测试图像样本进行类激活映射谱和标准图进行测试得到相似度得分，并取均值作为模型关注区域稳定度的得分CRIt； 其中，表示第m个任务测试集的第i张图像在第t个任务模型上的类激活映射谱，表示第m个任务测试集的第i张图像在第m个任务模型上的标准映射谱；此外，当0≤m＜t时，此时要求t≥1，即在完成初始图像识别任务后的每个任务上对之前旧图像识别任务测试图像区域关注度变化程度，并定义为CRIt-past，同理可得0≤m＜t条件下的旧图像识别任务分类精度FAt-past；步骤5：结合模型分类准确率，构造偏离度DV和相关度RL；具体方法为，以关注区域稳定度CRIt为横坐标，以分类准确率FAt为纵坐标，将首个任务的坐标CRI0,FA0作为标准点，后续的连续学习任务CRIt,FAt和标准点的欧式距离定义为偏离度DV并取均值；此外将经过标准点的斜率为1的直线设定为标准线，将后续任务点到标准线的距离作为相关度RL并取均值，具体计算公式为： 其中，T表示类增量连续学习共有T个任务；步骤6：综合偏离度和相关度，使用S形曲线将两个指标分别归一化并相乘并和1做差形成评价指标DR，一个良好的连续学习算法DR应该逼近1，而表现差的算法则会逼近于0； 其中，α1和α2分别是DV和RL的S曲线归一化参数，α1＝2α2。

全文数据：

权利要求：

百度查询： 电子科技大学 一种基于类激活区域偏移度量的连续学习性能评估方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD